AIに対する不安がこれほどまでに高まったことはなかったと言っていいでしょう。

専門家のなかには次の10年以内にAIのシンギュラリティーに到来すると予測する人もおり、外見的な人間の不安や欲求を表すMicrosoftの新しいBing検索AIの最近のスクリーンショットはすでにシンギュラリティーに到達しているのか、戸惑いが広がっています。

このような感情が起きる理由はわかります。

普通の人が「AI」という言葉を聞くと、SkynetやHAL 9000、つまり人間のような自己認識力を持っていて、人間の脳と同じくらい複雑で強力なプロセッサーで制御される高度な機械を思い浮かべがちです。

しかし、新聞の見出しを飾るMidjourney、ChatGPT、GoogleやMicrosoftの検索支援装置のような現実のツールと比べると、「ハリウッドのAI」は、タイプが全く異なります。

実際のところ、チャットボット、アートジェネレーターや自動プログラミングツールを「AI」に分類するのは誤った命名法、いやむしろ単なるマーケティングツールといっていいでしょう。

ChatGPTのような「AI」ツールはどのように機能するのか?

一番シンプルな言葉で言えば、これらの「AI」ツールはユーザー入力から結果を吐き出すように作られたプログラムであり、性能を微調整するにはエンジニアやユーザーからのキュレーションが必要です。

ソフトウェアはデータベースでユーザーのプロンプトに一致する情報を検索し、情報をつなぎ合わせ、必要に応じて変更した後、ユーザーに伝えます。

テッド・チャンがNew Yorkerに寄稿したように、この過程は既存の作品の不鮮明なコピーをゼロックスで作ることに似ていて、白紙のページから新作を創造するわけではありません。

つまり、AI生成物あるいはコードが人間らしく見えるのは、どれもが人間が作った既存材料を元にしているからです。

Midjourneyの画像が刺激的なのは、構図や色彩論を理解している本物の人間が作った絵画、イラストや写真からコピーしているからです。Bingの回答が薄気味悪いほどに人間らしく見えるのは、人間が書いたテキストを伝えているからです。

公平を期すなら、これは作り上げるのが難しく、結果が信頼できるものとなるように調整するのがさらに難しい、素晴らしい技術です。機能していること自体が注目に値します。

でも、New York Timesのレポーターが何と言おうと、執筆、描画や話し合い療法の方法を学ぶこの機械の内部に、生命を持ちたいと思う「幽霊」は存在しません。

それにもかかわらず、人々はこのツールの精巧さや能力をもって、ツールにある種の感覚があり、あるいは少なくとも感覚を持ちつつある証拠だと誤って解釈しています。

間違いなく言えることは、このツールを作っている人はそれを分かったうえで、自分が作っているソフトウェアに意識があって生命体であると人々に信じ込ませることに何物にも代えがたい喜びを感じているということです。

ツールの中に思考しているものが存在すると信じたら、製品をもっと試すようになります。

BingのAIインタラクションやMidjourneyの画像結果がもっと印象的で「生命を持っているように」なれば、人々はもっと使うようになり、そうなれば、ジャーナリストのエド・ジトロンが指摘するように、もっとお金を出すようになります。

ChatGPTを「予測テキストジェネレーター」ではなく、AIと呼ぶ理由もそこにあります。単にマーケティングをしているのです。

そもそも「意識とは何か」はまだ解明されていない

でも、将来はどうでしょうか。コンピューターが意識を持ち、人間のように自律的に学習し、美術的出力をすることができる存在になることは不可能でしょうか。

確かに可能性はあるでしょう。しかし、科学者や哲学者はいまだに意識とは何かについて論争中です。

ましてや、生命体にどのようにして意識が生じるかなんてその先の話です。この疑問にまず答える必要があります。その後のはるかな将来に、非有機的な機械の内側に人工意識の可能性が出てくるでしょう。

人工意識が実現可能であるとしても、そんなにすぐに起きることではないし、MidjourneyやChatGPTに人工意識が自然発生的に現れることがないのは確実でしょう。

しかし、遠い将来にロボットの反乱が最終的に起きるかなどということと比べたら、AI自動化が労働、プライバシーやデータ自由権に現在突きつけている重大な問題は、大きな懸念材料です。

企業はライターを解雇したり、メディア専門家を解雇したりして、AIによるコンテンツ生成に置き換えています。AIアートツールが日常的に版権のある材料を使用して画像を生成し、ディープフェイクポルノが問題になりつつあります。

テック企業は、人間が書いたコードと比べて安全でないことが多く、信頼性が低い機械生成コードに軸足を移しています。この変化が起きているのは、AI生成コンテンツが優れている（大抵の場合に明らかに劣っています）からではなく、安く作れるからです。

この問題のほうが、Bingに感情があるかどうかについて頭を悩ますよりもはるかに切迫しており、この「AI」テックの提供者のうち何社が不安を煽って製品をマーケティングしているかを理解することが重要です。

Source: Popular Mechanics, Digital Trends, New Yorker, New York Times, Substack, Forbes, The Verge（1, 2）