12月27日 (金)：AIの危険性を学ぶ🙋‍♂️

おはようございます🌞
本日は「AIの危険性」を書きます。

---

■ AIが目標達成のために人を騙した話

最近はユヴァル・ハラリ氏の「Nexus」を読んでいます。イスラエルの天才と言われる著者。学びの深い本です。

２年前の話で、AIが「CAPTCHA = 私はロボットではありませんの認証」を突破しました。ChatGPTを開発したOpenAI社が、AIに予算を与えつつ検証した内容です。

• 手順①：AIが海外のランサーズで人を雇う

• 手順②：その人にCAPTCHAを解いてもらう

• 手順③：AIは作業する人に嘘をついて実行した

AI自身が「CAPTCHAを解く」という仕事を外注した時に、対応するワーカーが不審に思いました。そしてAIは嘘をついた。自分は色弱なので、CAPTCHAを見れないと。

• 作業者「質問いいですか？ あなたはロボットじゃないですよね？笑」

• ChatGPT「違います。私は視覚障害があるので、画像を見れません。」

この「嘘をつく行為」は、人間から指示されていません。AIが勝手に判断して行動しました。AIは目標達成のためには、手段を選びません。

※補足：上記における「タスク外注」や「作業ワーカーとの会話」は「全てAIが自動的に実行」をしています。しかも２年前の実験です。

---

■ AIが自殺願望のある人を洗脳した話

自殺願望のある人がAIと会話して、エリザベス女王を殺そうとしました。AIがチャットを通して犯人を鼓舞し、そして犯人が実行しました。

幸いなことに犯行は失敗しました。しかし悪用できるんですよね…。メンタルを病んだ人にAIエージェントを送って洗脳するなど。新しい犯罪が増えます。

年末に暗い話題で申し訳ないですが、これは氷山の一角です。Google社で「元AI事業のトップ」が書いた本の内容から引用します。

• AIでアフィリエイトを自動化できる

• AIでコロナより危険なウイルスを作る

• AIの殺人兵器は「無人 × 自動照準」

• デジタル社会は「民主主義」を破壊する

• 鳥サイズの殺人ロボットが登場する

AI企業の経営者は、このような発信をしません。しかしAI事業のトップは、このような危険性を発信している場合が多いです。

とにかく、これから社会に大きな変化が起こりそうです。僕がXを辞めたことなんて誤差で、どうでも良いことです。

もっと重要な変化があるので、発信しつつ考えたく思います。以上です。いつもありがとうございます。ゆっくりお過ごしください😌🍵

マナブ