Anthropicの高性能AI停止で、米国製AIへの依存リスクが表面化した
Anthropicの高性能AI「Claude Mythos 5」と「Fable 5」が突如、全ユーザー向けに利用停止となりました。理由は、国家安全保障上の問題です。
アメリカ政府から緊急で停止を命じられたため、Anthropicは提供を止める形になりました。
この件は、フランスで行われたG7首脳会議でも議題になりました。フランスのマクロン大統領は、いつ止められるかわからない不安があるなら、誰もアメリカ製AIを購入しなくなるという趣旨の懸念を示しました。
Fable 5は9日に一般ユーザー向けに提供が始まったばかりでした。Claude Mythos 5についても、日本政府や一部の金融機関がアクセスできるようになったと発表された直後でした。使い始めたばかりの高性能AIが急に止まったことで、AIを政府や企業の重要な仕組みに組み込む危うさが一気に見えました。
日本の松本サイバー安全保障担当大臣は、アメリカ政府やAnthropicと意見交換を続けています。使えない状況が続くなら、今使えるものを活用しながら、最大限セキュリティを高める必要があります。
Fable 5は短い思考量でも高い成果を出せるAIだった
Fable 5は、日本でも短期間だけ使える状態でした。実際に使った人は、従来のAIとの性能差をはっきり感じています。
わかりやすい例がソフトウェア開発。AIにプログラムを作らせると、文章だけの回答よりも差が見えやすくなります。動くアプリや画面として結果が出るため、出来の違いがすぐにわかります。
Fable 5は、巨大なAIなので本来なら出力は遅いはずです。1単語、正確には1トークンごとの出力速度は速くない可能性があります。トークンとは、AIが文章を処理するときの細かい単位。
それでも、Fable 5は結果として速く感じられました。GPT-5.5が1万文字ほど使って考える作業を、Fable 5は2000〜3000文字ほどの思考で済ませられるような感覚だったためです。
この差を一度見てしまうと、前のモデルに戻ったときに物足りなく感じます。Anthropicの従来モデルであるOpus 4.8が強く批判されているのも、単体で急に悪くなったからではありません。Fable 5と比べられたことで、差が目立ってしまったのです。
Claude Mythos 5とFable 5はサイバー防御にも攻撃にも使える危うさが露呈
Claude Mythos 5とFable 5が問題になった大きな理由は、サイバーセキュリティ分野での能力です。サイバーセキュリティとは、コンピューターやネットワークを攻撃から守るための技術。
このAIは、システムの脆弱性を見つける能力が非常に高いとされています。脆弱性とは、攻撃に使われる弱点のことです。守る側が使えば安全対策に役立ちますが、攻撃する側が使えばサイバー攻撃の武器になる。
Claude Mythos 5は、4月に登場した時点で誰でも使えるAIではありませんでした。脆弱性を見つける能力が高すぎるため、世界中の人が自由に使うと危険だと判断され、一部企業だけが使える非公開の扱いになっていました。
その後、危険な能力を抑えた形で公開されたのがFable 5です。Anthropicは安全対策として、AI研究やサイバーセキュリティに関する質問が来た場合、前のモデルへ自動的に回す仕組みを入れていました。危険な回答をFable 5から直接出させないため。
ところが、その制限を回避できる可能性が見つかりました。Amazonの研究者が試したところ、聞き方を変えることで制限を外せる方法が見つかったとされています。その情報がAmazonのCEOに伝わり、さらにホワイトハウスへ伝わった結果、急きょ停止に進みました。
停止の流れを整理すると、こうなります。
- Claude Mythos 5は高い脆弱性発見能力を持っていた
- 危険性が高いため、最初は一部企業向けに限定された
- 危険な能力を抑えた形でFable 5が公開された
- 安全対策として、危険な質問は前のAIへ回す仕組みが入った
- その制限を回避できる可能性が見つかった
- アメリカ政府の判断で全ユーザー向けに停止された
- Anthropic内部の職員も使えない状態になった
ユーザーが外国人かどうかを細かく判定できないため、外国人だけを止める形にはできませんでした。その結果、全体を一括で止める対応になりました。
政府システムにAIを組み込むなら、急な全面停止のリスクに備える必要がある
今回の問題で見えたのは、高性能AIを外国企業のサービスだけに頼る危うさです。個人が試しに使っていて急に止まったなら、残念だったで済みます。政府や金融、医療、重要インフラの裏側で使っていた場合は、社会の仕組みに影響する。
重要インフラとは、電気、水道、通信、交通、金融など、止まると生活や社会に大きな影響が出る仕組みです。こうした分野でAIを使うなら、ひとつのAIに依存する形は危険です。
日本政府側では、すぐに今回の停止で大きな影響を受ける状態ではありません。複数のAIを使えるようにする考え方があり、ひとつのAIだけに頼らない準備が進められている。
それでも、リスクははっきりしました。民間企業が作った技術に国家が深く依存すると、ある日突然アクセスできなくなる可能性があります。いわゆるキルスイッチのように、使えていたものが外部判断で止まるリスク。
ここで重要になるのが、国産の基盤モデルです。基盤モデルとは、さまざまな用途に使えるAIの土台です。日本が製造業や医療のデータをAIで扱うなら、自国で使えるAIの土台を持つことが保険になる。
日本でも、製造業や医療データを活用するために、国内で基盤モデルを作る取り組みは始まっています。今回の停止は急な出来事でしたが、リスクを早く経験できた意味もあります。これからは、AIの選択肢を増やし、国産モデルの開発を急ぐ必要があります。
AIの成長は安全保障の考え方を見直す段階に入った
AIの進化は、便利な業務効率化の話だけではありません。安全保障そのものに影響。安全保障とは、国や社会を守るための仕組みです。軍事、情報、経済、インフラなどが含まれます。
これまでも、AIが軍事作戦の判断を速くする、人間の判断が追いつかなくなる、という話はありました。ところが、今回のような高性能AIになると、その範囲だけでは収まりません。
専門家が見ても、Fable 5やClaude Mythos 5は段違いの性能に見えています。ここまで来ると、AIは人間を助ける道具にとどまらず、攻撃や開発の能力そのものを引き上げる存在になる。
AI開発の最先端では、以前から危険なラインを超えていないか評価されてきました。主なリスクは、サイバーセキュリティ、生物兵器、化学兵器、核兵器です。
生物兵器とは、ウイルスや細菌などを悪用する兵器です。化学兵器とは、有害な化学物質を使う兵器です。核兵器は、核反応によって大きな破壊を起こす兵器です。
これまでは、今のAIはその危険なラインを超えていないとして公開されてきました。ところが、Claude Mythos 5ではサイバーセキュリティの分野でそのラインを超えたと見られています。昔から警戒されていた「AIが脆弱性を高度に見つけられる状態」が、現実に近づきました。
次は生物兵器リスクと医療活用を同時に考える必要もある
サイバーセキュリティの次に懸念されているのが、生物兵器です。
Fable 5の技術報告でも、サイバーセキュリティに加えて、生物学兵器のリスクが重要なテーマになっています。
AIが危険なウイルスの作り方や、悪用につながる情報を出せるようになる可能性があります。実際にばらまくのは人間ですが、AIが危険な知識への入り口を広げると、リスクは高まる。
サイバー攻撃は、場合によってはパソコン1台でも実行できます。生物兵器、化学兵器、核兵器は、情報だけでは実行できません。物質、設備、専門的な作業が必要です。そのため、AIの出力を制限するだけでなく、材料や設備へのアクセス管理も重要になります。
大手AI企業のトップたちも、生物学関連の業者に注意を促しています。合成生物学などの依頼を受ける業者は、これから依頼内容をより慎重に確認する必要があります。合成生物学とは、生物の仕組みを人工的に設計したり作ったりする分野。
一方で、AIは薬の開発にも大きく役立ちます。危険な使い方があるからといって、AIそのものを遠ざければよい話ではありません。病気の治療、新薬開発、医療研究では、AIの力が社会に役立つ場面も多くあります。
これから必要なのは、使うか止めるかの単純な判断ではありません。社会に役立つ使い方を進めながら、悪用を防ぐ仕組みを作ることです。AIは便利な道具であると同時に、扱い方を間違えると安全保障上のリスクになります。日本もその前提で、技術、制度、運用を急いで整える必要があります。
