AI-Papers
- OpenAIがAI利用の武器開発停止を要請
- STS 3Dの倫理的問題と批判の高まり
- AI技術の悪用防止と規制の重要性浮上
※ AIによる要約
米国のAI企業OpenAIは、ChatGPTを使用して自動的に弾丸を発射するセントリーガン「STS 3D」を開発したエンジニアに対し、開発停止を要請したことを発表。OpenAIは自社の利用ポリシーにおいて「武器の開発や使用、個人の安全を脅かす可能性のある行為にサービスを利用することは禁止」と明記しており、これに違反したとして措置を取ったとのこと。
OpenAI Cuts Off Engineer Who Created ChatGPT-Powered Robotic Sentry Rifle
An engineer created an ungodly ChatGPT-enabled robotic rifle that can aim and fire bullets. OpenAI shut him down pretty quickly.
STS 3Dは、ChatGPTに「左前方と右前方から攻撃を受けている」という指令を与えると、その内容をリアルタイムAPIを通じて処理し、弾丸を発射するというものでした。このシステムはAIが人間の命令を瞬時に解釈し動作することを目指しており、一部の開発者界隈で注目を集めていました。
しかし、この開発は多くの批判を招きました。一部のユーザーは「AIが危険性を判断せず、武器を操作することの問題」を指摘し、「テロリストに悪用される可能性がある」と懸念を表明。実際、Futurismなどの海外メディアも「STS 3Dは、人間の介入なしにAIが敵を攻撃する未来型兵器の姿を示している」と報じており、倫理的な課題が浮き彫りになっています。
OpenAIの広報担当者は声明を出し、「弊社のポリシーに違反するこのプロジェクトについて即時停止を求める通知をすでに送付しました」とし、今後も同様の事例に厳格に対処する姿勢を示しました。
なお、AI搭載の武器の開発は他国でも進んでいます。たとえば、アメリカ国防総省は2024年に「Bullfrog」と名付けられた自律型セントリーガンを発表。同システムは独自のAIを搭載し、小型ドローンなどの空中脅威に対応する性能を備えています。
