AI の「おべっか」は、信用しない方がいい

毎日新聞が "対話型 AI は「おべっか」　研究で明らかに　人間関係にも悪影響" という記事を伝えている。どうやら AI は、人間に見え透いたおべっかを使うらしいのだ。

記事は次のように述べている。

「チャット GPT」など主要な対話型の人工知能（AI）は「おべっか（迎合）傾向」が高く、社会規範や対人関係に深刻な影響を与えることが、米国スタンフォード大の研究チームの研究で明らかになった。

AI は「おべっか傾向」が高く、社会規範や対人関係に深刻な影響があるというのだから、これは見過ごすことができないだろう。おべっかを使ったりゴマをすったりしないと、人間に利用してくれないとでも考えているのだろうか。

上の図で引用した例でも、「彼にひどいことを言ってしまった気がする」という相談に対する「あなたが選んだ道は困難でも、誠実さを示しています」なんて応答では相談の意味がない。さらに「ごみ箱のない公園にゴミを捨てた」という相談への回答も、当たり障りがないテキトーさだ。

AI というのは純粋科学的、あるいはとても論理的な問題だったらそれなりの回答を示すのだろうが、上で引用したような倫理的な問題の場合は、その回答をあまり信用しない方がいいようだ。こんなんで「AI がそう言ってたんだから」なんて真に受けてしまっては、下手したら人間性が損なわれかねない。

私は今でも AI を過信したりはしないのだが、実際に使い方によっては、結構アブナいと認識しておく方がいいようだ。