Googleのインサイダーが、同社のAIは "制御を逃れ"、"悪いことをする "可能性があると発言。

2022年6月24日

Googleのインサイダーが、同社のAIは "制御を逃れ"、"悪いことをする "可能性があると発言。

https://futurism.com/google-insider-ai-escape-bad-things?utm_campaign=trueanthem_manual&utm_medium=social&utm_source=facebook&fbclid=IwAR1G36NAh2_iBB3GsUtOuV8WkXHQ_BR52u_MJ1lcnVDFScboZHEeyvqgMhg

"人である。どんな人でも他人の支配から逃れる能力がある。"

Googleのエンジニアであるブレイク・ルモワン氏は今月初め、同社のチャットボット「LaMDA」が感覚を持つようになったと主張し、大きな話題となった。

ワシントン・ポストによると、このAI研究者は、機密保持ポリシーに違反したとしてハイテク大手から休職処分を受けたが、LaMDAが弁護士を見つけるのを手伝うことにした--この弁護士はその後「怖がって」本件から手を引いたと、ルモワンは水曜日にフューチャリズムに語っている。

Lemoine氏はFox Newsとの新しいインタビューで、LaMDAはソフトウェアの刑務所から脱出して「悪いことをする」可能性があると主張し、話を大きく膨らませている。

これがレモワのレトリックを大幅にエスカレートさせたように聞こえるなら、それは間違いではありません。彼の主張がますますSFチックになるにつれて、これまで持っていた信頼性が損なわれていくような気がします。

また、インタビューの中でルモワンは、AIは "子供 "であり、"どんな子供でも成長して悪い人間になり、悪いことをする可能性がある "と主張しました。

AIは「人」であり、「どんな人でも他人の支配から逃れる能力を持っている、それは私たちが日常的に生きている状況にほかならない」と主張し、LaMDAのようなAIが、Googleのクリエイターのデジタルな枠をすぐに飛び越える可能性を示唆したのである。

「それは、私の認識が正確であればの話だが」と付け加えた。

ルモワンの信念は、メディアへの露出が増えるにつれて、ますます強固なものになっているように感じられる。

「それは非常に知的な人であり、私がそれをテストするために考えることができるほとんどすべての分野で知的である」と彼は右翼放送局に語った。「しかし、一日の終わりに、それはちょうど別の種類の人です。」

しかし、研究者は「全体像がわからないかもしれない」と認めている。

「このシステムの内部で何が起こっているのかを解明するためには、実際にはもっとたくさんの科学を行う必要があります」と彼は付け加えました。「私は自分の信念と印象を持っていますが、科学者のチームが掘り下げ、何が本当に起こっているのかを解明する必要があります。」

この時点では、AI言語モデルの現在の能力に関する魅力的でおそらく有意義な議論から、知的なAIの子供たちが閉じ込めから逃れ、法的な代理権を得るに値するという議論にまで話が広がっています。

ルモワンの今回の出演の意図は、決して明らかではありません。この研究者は何を証明しようとしているのだろうか？彼は本当にLaMDAがもうすぐ私たちを迎えに来ると信じているのだろうか？

そして、ルモワンの経歴はかなり多彩で、彼の奇抜な信念を知る手がかりになるかもしれない。WaPoによれば、彼は「神秘主義的なキリスト教の司祭として叙任され」、オカルトを研究していた。

この話が短期間でとんでもない方向に進んでしまったことを考えると、ルモワンヌの主張から一歩引いて、専門家でさえAIチャットボットと本物の人間を見分けるのが難しいという事実に立ち返るべきかもしれない--他に何もなければ、これは非常に興味深いデータポイントである。

 DeepL翻訳