【今週のサンモニ】斎藤幸平氏の陰謀論と正論｜藤原かずえ

アナウンサー：AIの開発で最先端をゆく企業の研究者が、AIの暴走による人類滅亡が数年のうちに起きる可能性を警告し波紋が広がっています。（中略）
AI開発に突き進む先には、何が待ち受けているのでしょうか。

アナウンサー：AIの進化が速すぎると「数年のうちに人類を滅亡させかねない」と警鐘が鳴らされているのです。この強烈な警告を発したのは、最先端を行くオープンAI社やアンソロピック社でAI開発を進めてきた、ジェイコブ・コクソン氏。（中略）
コクソン氏は「このままではAIは、何でもハッキングできるようになり、一夜にしてあらゆる領域の秩序を覆し、現実の力と資源を掌握する超人的な存在になってしまう」と危機感を強めます。（中略）
そうした暴走するAIを生み出す恐れがあるのが「自己改善型」とよばれる開発手法です。これは、AI自身に自分より高度なAIを開発させ、そのAIがさらに高度なAIを開発していくものです。ついには人間の知能をはるかに上回る「超知能」に達するとされます。
この「超知能」が制御不能になってしまえば、取り返しがつかないことになる。そんな危機感を共有したアメリカのAI企業のトップたちも、開発スピードを緩める必要性を主張し始めたのです。

斎藤幸平氏：このリスクが人類滅亡になるということは、わからなくはないですけれども、このタイミングでイーロン・マスクさん達がここまで危機を言い出したのは、ちょっと怪しいなと思って。二つあると思うんですね。
一個は「こんな危ないものができるくらいAIというのはすごいんだぞ」ということで、AIバブルをますます加速させたいという狙い。もう１個は、より大きな危機を誇張することで、本当の狙いを隠すということ。本当の狙いは何かというと、人類をAIが滅ぼすよりも、人類がAIを使って、例えば、民主主義とか、この社会を破壊する可能性の方がリアルな可能性としてあると思うんですよ。
それは金融・軍事のハックとか、個人情報・プライバシーのハックとか、北朝鮮のような悪いテロリスト国家がやるのではなくて、むしろ米国の民間企業でイーロン・マスクさん達が、そういうハックする技術を持っているわけですね。彼らは民主主義を否定するような考え方を持っている。今後フィジカルAIをもっと発展させていけば、労働者もいらなくなるし、格差も広がって、失業も増えて、不安定な社会になってしまう。
だけれども、イーロン・マスクさん達はもっと富を蓄えたい、自分たちの権力を守りたい。そういう先にある社会は、富豪だけが要塞に住む監視社会。僕は非民主的な「テクノファシズム」と呼んで権威主義的な社会になると思うのですけれども、こういうリスクを誤魔化すために、こういう超知能AIのリスクを誇張しているのではないかと。これを防ぐためには、データセンターを国有化する社会主義しかないというのは私の結論です。