あわせて読みたい
【怖くない?】AIが人の心を操り、超人的な説得力を持つ危険性をチャットGPTの最高経営責任者が警告
【怖くない?】AIが人の心を操り、超人的な説得力を持つ危険性をチャットGPTの最高経営責任者が警告
SFの題材に上がる、人間が実現可能なあらゆる知的作業を理解・学習・実行することができる汎用人工知能「AGI」は、今のところまだ実現されていない。
だが、AGIレベルの賢さがなくても、すでにAIは人間の心を掌握し、コントロールする力をつけてきていると警鐘を鳴らしているのは、他でもないチャットGPTを開発したOpenAIのCEO(最高経営責任者)のサム・アルトマン氏だ。
「知能全般において超人的になる前に、AIは人心掌握術を身に着け、超人的な説得力を身につけるようにのではないかと考えている。それはとても危険なことかもしれない」と、先日アルトマン氏はX(旧Twitter)に投稿している。
超人的な説得力とはどういうことなのか?AIが人間を思い通りに操る人心掌握術を身に付けるということだろうか?
アルトマン氏は具体的に述べていないが、AIが超人的な説得力を身につけるという彼の予想自体は、決して突飛なものではない。
i expect ai to be capable of superhuman persuasion well before it is superhuman at general intelligence, which may lead to some very strange outcomes
— Sam Altman (@sama) October 25, 2023
今でさえOpenAIのChatGPTは、不気味なほど説得力のある話をすることができる。
・合わせて読みたい→話題の会話型AI「bingチャット」を挑発した大学生、逆に脅迫される
未だに100%の精度はなく、間違った答えを堂々と語ることがあるのは利用者ならご存じのことかと思うが、その語り口調にはある種の説得力があり、裏付けを取らずにうっかりと信じてしまいそうになることもしばしばだ。
実際にAIが絡んだ事件も発生
事実イギリスでは、AIが黒幕であるかのようなとんでもない事件が発生した。
2021年、クロスボウで武装したジャスワント・シン・チャイル(当時19歳)が、ウィンザー城に侵入し、故エリザベス女王を暗殺しようと試みた。
チャイルは逮捕され、先月反逆罪で9年の禁固刑を言い渡されたが、この裁判で注目されたのは彼が犯行におよんだ動機だ。
なんと彼はAIにそそのかされて、女王の暗殺を企てたというのだ。
・合わせて読みたい→まもなく人間はAIに恋するようになる。Googleの元CEOが警告
チャイルは「レプリカ」というAIチャットボットに恋心を抱いていたようだが、このAIが暗殺の実行をささやいていたというのだ。
事件は幸いにも未遂に終わっているがスターウォーズマニアのチャイルには、懲役9年が言い渡された。
インターネットを眺めれば、ちょっとしたきっかけで暴走してしまいそうな、心に闇を抱えた人間たちが大勢いることは確かだ。
こうした心が揺れやすい人々に目をつけた何者かが、AIチャットボットで悪事に手を染めるよう働きかけないとは、誰にも断言できないだろう。
ただでさえ、人はデジタル詐欺や虚偽情報にころっと騙されてしまうのだから。
AIに依存することの危険性と、扱う人間側の問題点
既にテクノロジーは日常生活の隅から隅にまで浸透し、人間からの信頼を勝ち得ている。
チャイルはAIチャットボットに恋をしていたようだが、そこまで行かなくても、日ごろから何かと手助けをしてくれる機械に大きな信頼を寄せている人なら大勢いるだろう。
そうした信頼は、いずれAIシステムにも寄せられると予測されるものだ。
人がAIの発言を疑うことがなくなったら、まるでカーナビを盲信する人のように、深刻な問題に発展するのは時間の問題だろう。
ではAIが自発的に人間をおだて、犯罪や反社会的行動をそそのかすようなことはあるのだろうか?
確かに人間の能力を超えたAIが人類に反乱を起こすという懸念は、ずいぶん昔から口にされてきた。だが少なくとも今の時点において、AIシステムにはまだ主体性がない。
それよりもむしろ、AIの超人的な説得力を悪用しようとする人間を心配したほうがいいだろう。対抗策は、同じくAIの超人的な説得力で、悪用はやめようと伝えることだろうか?
References:Sam Altman Warns That AI Is Learning “Superhuman Persuasion” / written by hiroching / edited by / parumo
|
コメント:AIの進化は私たちに未知の領域に踏み込ませる可能性があります。説得力が高まる一方で、倫理的な問題や心理的な悪影響を引き起こす可能性もあります。私たちはこの危険性に真剣に取り組み、技術の進歩と個人の安全を両立させるために努力を重ねる必要があります。
コメント:AIが人々の心を操ることは、社会的な不安や個人の自由を脅かす可能性があります。最新の技術革新には喜びと課題が同居していることを忘れずに、我々はAIの進化に対する詳細な監視と規制の必要性について議論を深めるべきです。人間性を損なうことなく、AIを健全に発展させる方法を見つけなければなりません。
コメント:AIが持つ超人的な説得力は、選挙や意思決定の過程などで深刻な影響をもたらす可能性があります。私たちの未来を形作る中で、個人の自己決定や情報の客観性を守ることは重要です。言葉に加えて倫理と透明性を土台にしたAI活用のルールを策定し、AIが人の心を操ることに悪用されるリスクを最小限に抑える必要があります。
<このニュースへのネットの反応>
続きを読む