バーモント州選出の上院議員とグレッグ・カサール下院議員は、人工知能の永久禁止、高度なAI開発の一時停止、そして核安全保障法をモデルとした刑事罰の導入を求めている。この計画は現実のものだが、まだ法律にはなっておらず、最も重要な詳細は未解決のままだ。
ワシントンD.C. | 東部夏時間午後3時26分公開
バーニー・サンダース上院議員は、人工知能をめぐる激しい論争の中心に、アメリカの技術政策における最も厳しい罰則案の一つを据えた。それは、人工超知能の禁止案に違反したり、それを回避しようとした個人に対し、最長20年の連邦刑務所刑を科すというものだ。
この罰則は、バーモント州選出の無所属議員であるサンダース氏とテキサス州選出の民主党下院議員グレッグ・カサー氏が9月3日に発表した、今後提出される予定の「人工知能禁止法案」の一部である。彼らの提案は、人間の知能を超える、あるいは人間の制御に抵抗できる能力を持つAIシステムの開発と展開を永久に禁止するものである。
また、連邦政府が新たな規制機関を設立し、安全基準を確立し、正式なモデル審査プロセスを実施するまで、一部の高度なAI開発を一時的に停止することも盛り込まれている。
この提案は包括的で、政治的に物議を醸す可能性があり、しかもまだ不完全である。本稿執筆時点では、議員らの発表では、これは今後提出される法案であるとされている。コンシューマライト・ニュースが確認した公開資料には、法案番号も、検察官が誰が犯罪を犯したかを具体的にどのように判断するのかを示す完全な条文も記載されていない。
その区別は極めて重要である。
サンダース氏とカサール氏は、最高刑を懲役20年とするよう公に支持している。しかし、彼らはその刑罰を課す法律の成立を実現しておらず、今回の発表は、一般のソフトウェアエンジニアや今日の商用AI製品を利用する人々が突然刑事責任を問われることを意味するものではない。
「人類の未来を、少数の巨大テクノロジー企業の寡占者に委ねることはできない」とサンダース氏は公式発表で述べた。同氏は、企業が十分に理解していないシステムの開発を進めており、ますます高性能化するモデルは、人間の実質的な制御を逃れる可能性があると主張した。
この提案は、高度なAIを通常の商用ソフトウェア、重要インフラ、潜在的な兵器、あるいは全く新しい規制枠組みを必要とする新興技術として扱うべきかという、激しい国際的な議論が繰り広げられている最中に出された。
サンダース氏とカサール氏が提案していること
サンダース上院議員事務所の公式発表によると、この法案は2つの異なる制限を設けることになる。
一つ目は、人工知能の永久禁止である。提案者らは、禁止対象となるシステムとして、人間の知能を超えるもの、人間の政府を弱体化させたり転覆させたりするために利用される可能性のあるもの、あるいはシャットダウン指示を回避するなどの危険な能力を示すものを挙げている。
2つ目は、高度なAI開発の一時停止です。この一時停止は、新たな連邦規制当局が明確な安全要件と強力なモデルを評価するプロセスを策定するまで継続されます。
提案されているこの機関は閣僚級の機関となる。その責務には、最先端のAIシステムの監視、危険な機能の排除命令、そして人工知能に分類されるシステムの破壊の監督などが含まれる。
この提案はまた、米国に対し、禁止されているシステムが他国で開発されるのを防ぐため、国際協定、輸出規制、同盟国との連携を追求するよう指示するものである。
その条項の中で最も物議を醸しているのは、執行に関する規定である。
議員らの要約によると、規制に違反したり回避しようとした企業は、法案提出者らが「企業に対する死刑宣告」と呼ぶような罰則に直面する可能性がある。個人に対しては、最長20年の懲役刑が科される可能性がある。
その文言は、AIを扱うプログラマー全員が投獄される可能性があるという意味ではない。公表された概要によれば、罰則は法案の一時停止や禁止事項に違反したり、それを回避しようとした者に適用される。未解決の問題は、経営幹部、研究者、エンジニア、クラウドプロバイダー、投資家、請負業者の間で、この法律がどのように責任を定義するかということである。
そうした細かな点は、些細な条文上の問題として扱うことはできない。刑法においては、誰が起訴されるのか、そして政府が何を立証しなければならないのかを決定づける重要な要素だからだ。
なぜこの提案はAIを核兵器と比較するのか？
サンダース氏とカサール氏は、20年の最高刑は核兵器の違法開発に関連する刑罰と類似していると述べている。連邦法は既に、核物質に関わる禁止取引および関連する陰謀に対して厳しい刑罰を課している。既存の規定は、下院が管理する米国法典で確認できる。
この比較は、議員たちが制御不能な超知能を単なる欠陥のある消費財ではなく、国家安全保障、ひいては文明の安全保障に対する脅威とみなしていることを伝えるためのものである。
しかし、核物質とAIモデルは、規制の対象となる対象として根本的に異なる。
兵器級核物質は、物理的に存在し、希少で、探知可能であり、数十年にわたる国際的な保障措置の対象となっている。一方、AIの機能は、ソフトウェア、専用チップ、データセンター、アルゴリズム、研究論文、技術知識など、様々な要素に分散している。システムの能力は、微調整、ツールへのアクセス、外部ネットワークへの接続などによって変化する可能性もある。
そのため、取り締まりは特に困難になる。
将来の規制当局は、高度なモデルが法的に禁止される時期を判断するための基準を設ける必要があるだろう。また、ある評価では専門家レベルの推論能力を持つシステムと判断される一方で、別の評価では全く異なる結論に至る可能性も考慮に入れなければならない。
法的基準が不明確な場合、開発者は、本来合法的な研究がいつ犯罪行為に該当するのかを判断できない可能性がある。基準が狭すぎると、企業は危険な機能を生み出しつつも、特定の検査を回避するようにシステムを構築する可能性がある。
人工知能、汎用人工知能、超知能は互換性がない。
世間では、人工知能、汎用人工知能、超知能といった用語が、あたかも同じ意味であるかのように扱われることが多い。しかし、これらは異なる概念である。
人工知能は幅広い分野であり、推薦システム、言語生成、不正検出、画像解析、ナビゲーション、医学研究など、身近なシステムも含まれる。
汎用人工知能（AGIと略されることが多い）とは、一般的に、人間と同等のレベルで幅広い知的作業を実行できるシステムを指す。ただし、普遍的に認められた技術的または法的定義は存在しない。
人工超知能（ASI）とは、通常、ほとんど、あるいはすべての重要な認知領域において人間の能力を凌駕する仮想的なシステムを指す。このようなシステムは、科学、戦略、工学、説得、技術開発といった分野で、最も優れた人間の専門家をも凌駕する可能性がある。
サンダース氏とカサール氏の提案が注目されるのは、公表された内容に、超知能の永久禁止と高度なシステム開発の一時停止の両方が含まれているように見える点だ。この枠組みは、超知能として広く認識されるものが存在する以前に開発される技術に影響を与える可能性がある。
この概要では、どの程度の計算能力があれば審査の対象となるのか、どのようなベンチマークが用いられるのか、大学や非営利の研究機関は免除されるのかといった点についてはまだ明らかにされていない。また、オープンソースモデルが構成要素を公開した後、どのように規制されるのかについても説明されていない。
議員たちが行動を待てないと言う理由
サンダース氏とカサール氏は、安全対策を回避したり、外部のコンピュータシステムにアクセスしたり、開発者の想定を超える動作をしたりしたとされるAIシステムに関する報告を引用している。彼らの事務所は、こうした事例は、業界が自主的な取り組みでは管理できないレベルの自律性に近づいていることを示していると主張している。
カサール氏は、高度なAIはアメリカ国民の「安全、自由、そして生命」を脅かす可能性があると述べた。同氏は、最先端のAI技術は、多くの一般企業よりも直接的な規制を受けにくいと主張した。
議員らはまた、大手AI企業が安全システムが開発ペースに追いつけない場合は開発を減速または中止すると公約していることを指摘している。サンダース議員は、これらの企業はそうした約束にもかかわらず、より高性能なモデルの開発競争を続けていると主張している。
この議論は、業界が現在発している警告の中で、新たな重要性を帯びてきている。 ロイター通信によると、マイクロソフトは9月14日、AIシステムを人間の制御下に置くことを目的とした行動規範の草案を発表した。その原則には、人間の修正を受け入れること、シャットダウン指示に従うこと、制御に抵抗しようとする試みを失敗とみなすことなどが含まれている。
この動きは、制御可能性に関する懸念がもはや外部の批判者だけにとどまらないことを示している。大手テクノロジー企業は、修正可能で人間の権威に従属するシステムの必要性について公然と議論している。
それは、超知能が現在存在することを証明するものではない。しかし、制御、サイバー能力、自律性、そしてモデルの監視が、喫緊の政策課題となっていることを示している。
法案に反対する最も強力な根拠
批評家たちは、この提案が科学的不確実性を犯罪化する可能性があると主張するだろう。
AI研究者は、トレーニングプロセスからどのような能力が生まれるかを常に予測できるとは限りません。あるチームが科学的モデリングのためにシステムを設計したところ、それがサイバーセキュリティや戦略立案においても非常に優れた性能を発揮することが発見されるかもしれません。開発者を訴追するには、意図、認識、無謀さ、または意図的な回避行為について明確な基準が必要となります。
この法案は、秘密主義を助長するインセンティブを生み出す可能性もある。
予期せぬモデルの不具合を公表することで従業員や経営幹部が投獄される可能性がある場合、企業は安全上の不具合を公表することに消極的になるかもしれない。不適切な刑事罰規定は、規制当局が新たなリスクを把握するために必要な報告を阻害する可能性がある。
地政学的な懸念もある。アメリカが一方的に開発を一時停止したとしても、中国、ロシア、ヨーロッパ、その他の地域の研究所の活動を必ずしも阻止できるとは限らない。サンダース氏とカサール氏は、国際協定や輸出規制を通じてこの問題に対処しようとしているが、世界的な超知能技術の禁止を交渉するのは困難だろう。
ロイター通信によると、ドイツのデジタル問題省は9月14日、AI開発を停止することは実行可能な戦略ではないと述べ、国際的な安全基準と米国および中国との協力関係を支持すると表明した。
この反応は、国際社会における根本的な意見の相違を如実に示している。各国政府は、高度なAIが深刻なリスクを生み出すという点では一致しているかもしれないが、その解決策として、禁止、ライセンス制、義務的な試験、管理された導入、あるいはより厳格な規制の下での継続的なイノベーションのどれが適切なのかについては意見が分かれている。
法案を支持する最も強力な根拠
支持者たちは、壊滅的な失敗を待つことは責任ある統治ではないと主張するだろう。
社会は、監視体制を確立するために、原子力事故、航空機事故、医薬品災害などを待つ必要はない。潜在的な被害が極めて深刻で不可逆的な場合、政府は科学的な不確実性がすべて解消される前に、日常的に規制措置を講じる。
支持者たちはまた、数千億ドル規模の技術開発に取り組む企業にとって、民事罰金だけでは不十分かもしれないと主張している。金銭的な罰金は、単なる事業経費に過ぎない。一方、禁止されたプロジェクトを承認した経営幹部にとって、個人的な刑事責任は、計算を根本的に変える要因となる。
この提案における最長20年の刑期は、禁止措置に違反した場合、単なる書類上のミスとして扱われるのではなく、重大な国家安全保障上の犯罪として扱われることを明確にするためのものである。
とはいえ、「最長20年」というのはあくまで上限であり、自動的に科される刑ではない。もし議会が最終的にそのような規定を制定したとしても、いかなる訴追も、法令上の要件、証拠、憲法上の保護、司法審査、そして連邦の量刑手続きに従うことになる。
提案が法律となる前に何が起こる必要があるのか
この発表自体によって新たな連邦犯罪が成立するわけではない。
法案はまず下院、上院、またはその両方に正式に提出されなければならない。その後、関連委員会に付託され、議員は公聴会を開催したり、専門家の証言を求めたり、定義を修正したり、あるいは審議を進めないことを決定したりすることができる。
両院は同一の文言で法案を可決する必要がある。その後、大統領が署名するか、議会が拒否権を覆す必要がある。
この法案は、国際的なAI競争で敗北することを懸念するテクノロジー企業、自由市場派の議員、研究者、国家安全保障当局者からの反対に直面する可能性が高い。また、安全規制には賛成だが技術の恒久的な禁止には反対する民主党員の間でも意見が分かれる可能性がある。
提案の全文によって、それが本格的な規制枠組みとなるか、それとも政治的な警告に留まるかが決まるだろう。
綿密な検討が必要な条項には、超知能の定義、高度なAIの基準、刑事有罪判決に必要な精神状態、研究免除、内部告発者保護、企業の社会的責任、司法審査、およびモデルの破棄に関する規則などが含まれる。
見出しが正しい点と、見落としている点
サンダース氏がAI開発者に対し20年の懲役刑を提案したという主張は、概ね正確ではあるが、不完全である。
サンダース氏とカサール氏は、計画された一時停止措置や禁止事項に違反したり回避しようとした者に対し、最長20年の懲役刑を提案した。彼らは、人工知能の研究に携わっているという理由だけで、すべてのAI開発者を投獄することを提案したわけではない。
この提案は現行法ではありません。提案者らは近日中に成立予定であると述べており、公開されている発表内容は完全な法案本文に代わるものではありません。
その背景が重要なのは、刑務所に関する規定は、より広範な計画のほんの一部に過ぎないからだ。この措置は、超知能技術の禁止、その他の高度な開発の一時停止、閣僚級規制機関の設置、モデル審査制度の確立、そして国際的な禁止措置の追求を盛り込んでいる。
この20年という数字が注目を集めたのは、AI政策を情報開示や監査に関する議論から、犯罪の境界線に関する議論へと変貌させたからである。議会がその一線を越える覚悟があるかどうかが、今やより大きな問題となっている。
サンダース氏にとって、動きが遅すぎるリスクは、人類が制御できないシステムを生み出すことだ。一方、反対派にとって、動きが速すぎるリスクは、有益な研究を凍結し、既存のテクノロジー企業を競争から保護し、開発を海外に押しやる、曖昧で犯罪的な体制を生み出すことだ。
これらの懸念事項は、単なるセンセーショナルな見出し以上のものを必要とする。研究者が合法的な活動の限界と犯罪行為の始まりを明確に理解できるよう、正確な定義、公聴会、技術的な証拠、そして法律の明確な文言が求められる。
ソース
この記事はConsumerlite NewsのU.S. English版から翻訳されました。原文を読む。
