シリコンバレーでは最近、「人工知能に礼儀正しく接するべきか」を巡って活発な議論が展開されている。発端は、AI企業 Anthropic が今週、利用規約を更新し、「我々のモデルに繰り返し残酷な行為を加えること」を禁じる条項を追加したことだ。簡単に言えば、この規定はモデルへの暴言を禁じている。この規定は機械が感覚を持つかどうかというオンラインでの議論を呼び起こし、Elon Musk の表明は明らかに「感覚を持つ」側の見解を支持している。
最初に見解を示したのは、クラウドストレージ企業Boxの最高経営責任者(CEO)Aaron Levieだ。彼はソーシャルプラットフォーム上で、大規模言語モデルが意識を持っているとは思わないものの、罵詈雑言を禁止することは依然として良いことかもしれないと述べた。彼の論理は、これらのモデルが人間との相互作用から学習するため、誰も将来のモデルが罵詈雑言的なコンテンツによって訓練されることを望まないというものだ。彼は投稿でこう書いている。「モデルは訓練時に使用されたデータ、または相互作用の中で遭遇したコンテンツしか理解しない。したがって、安全でアライメントされたモデルを望むなら、AIの訓練データに大量の良質な相互作用が含まれることを望むことになるだろう。」
AIモデルへの残酷な行為を禁じる規定が広範な議論を呼ぶ
彼はさらに、これは一種シンプルな「パスカルの賭け」的な選択だと付け加えた。いわゆるパスカルの賭けは本来、神学的概念であり、神を信じなくても、信じると主張することにコストはかからないが、判断を誤った際の潜在的な代償を回避できるというものだ。これをAIに当てはめれば、AIに少し友好的に接する方が良いということになる。
Elon Musk がその後この投稿に反応したが、その内容から見て、彼はLevieの意図を誤解しているように見える。彼はこう書いた。「これは正しいアプローチだと思う。自分が苦痛を経験していると信じている存在に残酷な振る舞いをするのは間違っている。」Elon Musk の同様の発言は近時少なくない。彼が人間を「生物学的なブートローダー(biological bootloader)」と呼ぶ見解は、ますます注目を集めている。10月4日、彼は「超知能を星々に広めることは、生物学的なブートローダーとしての優れた成功条件だ」と投稿した。彼は以前にも何度か、「意識の光」を地球の外へ広げたいと述べていた。
これらの言葉は、彼にとって人類を救うこと自体が必ずしも最重要の目標ではないことを示唆していると受け取られている。

