山田厚史（やまだ・あつし）
ジャーナリスト。元朝日新聞編集委員。「ニュース屋台村」編集主幹。
「エーアイ」という言葉を聞かない日はなくなった。AI＝artificial intelligence、「人工知能」と訳される。コンピューターソフトの進化形ぐらいに考えていたが、ChatGPTやGeminiなどの「生成AI」の登場で一気に身近な存在になった。システムの仕組みはわからなくても、我々は人工知能と１対１の対話ができるようになった。
連休中もAIに関する話題は途切れることなく発信されたが、読み進むにつれ「世の中これからどうなってしまうのか」と気が重くなった。
◆権力闘争や戦争に利用されるAI
一つは、週刊文春ゴールデンウイーク合併号に載った「高市陣営が流した『進次郎は無能』動画」という記事。もう一つが、日経新聞デジタルで見た「イラン攻撃、11分23秒の衝撃 AIが押す核のボタン」という解説だ。
文春の記事はAIが世論誘導の有力な武器になる危うさを物語っている。昨年の自民党総裁選で高市早苗陣営が対立候補の小泉進次郎と林芳正を中傷する動画を大量に発信し拡散させた内幕を描いた。10月4日投開票の総裁選に合わせTikTokなどに投稿された大量の動画は、高市陣営の政策秘書が発注したものだったという。
例えば、小泉をコケにする動画は、目をつぶった一瞬を切り取って「カンペで炎上！無能で炎上！」と男性の大声を重ねた。林氏の動画には「こんな人が自民党トップなら、日本も終わりですわ〜」。
１分ほどのショート動画が１日100〜200本量産され、ネットにばらまかれたという。発信者は「真実の政治」、身元不明の団体だ。
権力闘争には「ライバル潰し」がつきものだ。それが、正々堂々の議論ではなく、陰に隠れ、ネットを足場に謀略動画でライバルを撃つ。動画の大量生産はAIが登場したことで可能となった。カネと権限を持つ強者に都合がいい情報操作は総選挙では、有力野党候補を狙い撃ちした。
米国ではトランプ大統領が、バイデン前大統領を揶揄（やゆ）する画像を作り自分のプラットホーム「トゥルースソーシャル」にアップした。パジャマ姿のバイデン氏が大統領執務室で居眠りし、隣でオバマ元大統領が巨大なオートペンを運び込んでいるフェイク画像だ。高齢の前大統領を「Sleepy Joe Biden」と揶揄した。 同様に、オバマ、バイデンを「汚物まみれの池」に浮かべた画像や、自身をイエス・キリストに見立てた画像など、AIを使ったプロパガンダを好き放題にやるのがトランプの政治手法になっている。
「イラン攻撃11分23秒の衝撃」は、最高宗教指導者ハメネイ師の殺害が、居所の探知から着弾、死亡確認まで、わずか11分23秒で完了したというUAE（アラブ首長国連邦）のシンクタンクの分析を伝えたものだ。
作戦は生成AIが組み立てた。衛星・通信傍受・人的情報など膨大なデータを統合して防御網の「隙（すき）」を検出、人間の指揮官は承認しボタンを押すだけ。AIが決めた最適手順によって「ターゲット・キリング」と呼ばれる要人殺害が瞬時に遂行された。迷ったり、考えたりする時間などない。戦争の速度は一気に短縮されたという。
◆AIミュトスの脅威
AIは戦争する人間の「お手伝い」（判断の補強）から、作戦を組み立て、承認を待つ、という主導的機能へと変わった。同時に「人間が考える時間」は消えていく。AIの作戦プログラムは攻撃の効率を重視する。される側の被害状況や残酷さ、倫理性などは考慮されない。その結果、核使用を選択しがちだという。同時に、戦争の速度が早まり、瞬時の判断が求められる。急かされて核のボタンを押す恐れはないといえるだろうか。
そして今「AIミュトスの脅威」が問題になっている。最先端の生成AI「クロード・ミュトス」は高性能過ぎて、悪用された時の破壊力は半端ではないことが脅威とされる。このAIは、コンピューターシステムの弱点を探し出し、防御するもので、新興企業のアンソロピックが開発した
システムの弱点を探し出せば、システムに侵入することができる。侵入してデータを盗んだり破壊したりすることが可能だ。悪用すれば、だれでもハッカーになれる、という危険性を孕（はら）んでいる。
4月に発表されたが、一般公開されなかった。米財務省は金融システムへの攻撃を心配した。金融が止まったら経済は窒息する。金融だけではない。電力などインフラのシステムへの攻撃も同様だ。
「原爆もミュトスも作ってから慌て」（朝日川柳、朝日新聞5月14日付）
防御を強くしようとすれば、弱点を探さなければならい。弱点が分かれば、攻撃できる（される）。日本政府も慌てている。大企業のシステムがあちこちで破られ、操業が止まったり、データを盗まれたりしているからだ。銀行システムが止まったら大変だ。３メガバンクを中心に銀行は金融システムの強化を迫られているが、どこが弱いか知るにはミュトスが必要だ。政府は、米国にミュトスを使わせてもらえるよう掛け合っている。
厄介なのはミュトス並みの技術は、アメリカの専売特許ではない。半年もすれば中国が追いつく、と見られる。他国のシステムに侵入している北朝鮮も侮れない。防御と攻撃は無限連鎖のイタチごっこだ。
ミュトスに限らず、AI技術は民生と軍事に跨（またが）っている。金融システムへの侵入は、敵の防空システムを破ることにつながる。
◆米国防総省とアンソロピックの悶着
トランプ政権は今年1月、ベネズエラに特殊部隊を侵入させマドゥロ大統領夫妻を拘束しアメリカに連行した。この時、ベネズエラの防空システムを無効化したのはアンソロピックの技術だったと思われる。
これをきっかけに、米国防総省とアンソロピックの間で悶着（もんちゃく）が起きている。アンソロピックは、技術の軍事転用には慎重だ。社内に憲章を設け、軍事への無断転用を拒否している。AIを内蔵したドローンのような自律兵器を進化させていけば、やがては人間の意思を超えてAIが勝手に戦争を起こしかねない。
アンソロピック（ダリオ・アモデイCEO）は、生成AI「ChatGPT」を開発したOpenAI（サム・アルトマンCEO）に見切りをつけた7人の技術者が立ち上げたスタートアップ企業。OpenAIのアルトマンは、技術開発と利潤を重視し、業務に制約を課すことに否定的だった。これに対しAIの宿命とも言える「社会への脅威」に目を向けるアモデイは技術に倫理性を求め、折り合わなかった。独立したアモデイらはその後、支持を集めOpenAIに並ぶ先端企業に成長した。
国防総省は技術の自由使用を主張し、「憲章」を盾に軍事利用に一定の制約を求めるアンソロピックとの契約を打ち切りOpenAIに代えた。トランプは「アンソロピックは左翼思想だ」と政府業務から締め出した。アモデイらはこれを不当として訴訟の場で争っている。
◆「AIが投げかける課題」のAI回答
日本ではAI技術への脅威はあまり語られていないが、軍民技術の共用化が進んでいるアメリカでは、技術者の間ではあるが、深刻な課題になっている。
連休中の話題としては、OpenAIとGoogleの生成AIモデル「チャッピー」）が、2026年度の東京大学・京都大学入試で、合格者の最高得点を上回り「首席合格」を果たした。
数学は満点。2024年の東大入試では全科類不合格だったが2年でトップ合格を果たした。記述式問題でも合格者と遜色（そんしょく）がなかった。文章も東大生並みに書けるということか。
そこで、私が普段使っている無料のChatGPTを試してみた。
①高市陣営による対立候補中傷②バイデンを揶揄するトランプ③ハメネイ師殺害11分23秒④AIミュトスの脅威⑤東大入試AIが首席――以上５項目を踏まえ「AIが投げかける課題」を2000字以内で述べよ、という設問を出した。
以下が回答です。みなさん、どう評価しますか？
？？？？？
「AIが投げかける課題」
AIは人類に巨大な利益をもたらす技術として期待されている。しかし近年の動きを見ると、その危険性は単なる「便利さの副作用」という段階を超え、国家安全保障、民主主義、教育、情報空間そのものを揺るがす存在へと変化しつつある。しかも問題なのは、技術の進歩があまりにも速く、社会制度や法律、人間の倫理観が追いついていないことである。
その象徴が、新型AI「ミュトス（MythoS）」をめぐる報道である。ミュトスは、サイバー空間に存在する脆弱（ぜいじゃく）性を自律的に発見し、攻撃方法まで組み立てる能力を持つとされ、「27年間見逃されていた欠陥を発見した」とまで報じられた。従来、高度なサイバー攻撃は国家機関や一部の専門家しか扱えないものだった。しかしAIが攻撃能力を低コスト化すれば、犯罪組織や個人ですら巨大な破壊力を持つことになる。これは「知識の民主化」であると同時に、「破壊能力の民主化」でもある。しかもAIは疲れず、24時間休みなく脆弱性を探索し続ける。人間の防御側が追いつけなくなる危険性は極めて大きい。
軍事分野では、イラン最高指導者ハメネイ師を「探知から殺害まで11分余」で行ったとされる作戦が世界に衝撃を与えた。衛星、ドローン、通信傍受、顔認識などから集められた膨大な情報をAIが瞬時に分析し、標的の位置、移動、防御の隙、最適な攻撃タイミングを割り出す。ここで恐ろしいのは、AIが「兵器そのもの」になったことではない。人間が熟慮する時間が消えつつあることである。かつて戦争では、情報収集、分析、命令伝達に一定の時間が必要だった。しかしAIによって戦争の速度が極端に高速化すると、最終的に人間は「承認ボタンを押すだけ」の存在になる。もし誤認や誤作動が起きても、数分で取り返しのつかない事態に至る可能性がある。AIが核戦争の危険を高めるのではないかという懸念が真剣に語られる理由はここにある。
政治の世界でもAIは民主主義を揺るがし始めている。Donald Trump陣営はAI生成動画を用いてJoe Bidenを揶揄し、現実と虚構の境界を曖昧にした。かつて映像や音声は「証拠」として強い信頼を持っていた。しかし生成AIによって、本人が言っていない発言や存在しない映像を極めて自然に作り出せるようになった。問題は、たとえ偽物だと分かっても、人々が感情を刺激されれば拡散してしまうことである。現代のSNSでは、「真実かどうか」よりも、「怒りや恐怖を呼び起こすか」が優先されやすい。AIはその感情操作を飛躍的に強化してしまう。
日本でも同様の現象が始まっている。高市早苗陣営による総裁選関連動画の拡散では、ライバル候補を貶（おとし）める内容がSNS上で急速に広がった。今後、AIによる音声合成やディープフェイク技術がさらに進歩すれば、「本人が実際に言ったのかどうか」が判別困難になる。しかも海外サーバーや匿名アカウントを使えば、発信源の特定は難しい。民主主義は、有権者が共通の事実を前提に議論することで成り立つ。しかしAI時代には、その「共通の事実」自体が崩壊しかねないのである。
教育への影響も深刻である。東大入試でAIが首席級の成績を出したという報道は、多くの人に衝撃を与えた。これは単に「AIが賢くなった」という話ではない。現在の受験制度そのものが、AIに適した構造だったことを示している。暗記、定型問題、パターン認識はAIが最も得意とする分野である。人間が何年もかけて身につける知識を、AIは瞬時に整理し、最適解を導き出す。もし教育が「正解を速く出す能力」だけを競い続けるなら、人間はAIに勝てない。今後は、創造力、対話力、倫理判断、責任感といった、人間にしか担えない能力がより重要になるだろう。
これらの問題に共通するのは、AIが単なる道具ではなく、「人間の意思決定」を代替し始めている点である。サイバー空間では攻撃判断を、戦争では標的選定を、政治では世論形成を、教育では知的評価を肩代わりする。そして社会は、便利さと効率性を理由に、それを受け入れ始めている。
AIの本当の危険は、「機械が反乱を起こす」というSF的な未来ではない。人間が自分で考え、悩み、判断し、責任を負う力を失っていくことにある。AIがあまりにも便利で優秀であるがゆえに、人間が思考を放棄し始める。そのとき失われるのは、単なる仕事ではなく、人間社会そのものの主体性である。（文中一部敬称略）
コメントを残す