OpenAIとMicrosoftがChatGPT関連の死亡事件で訴えられる

コネチカット州在住の83歳女性の遺族が、ChatGPT開発元のOpenAIとMicrosoftを提訴しました。チャットボットが女性の妄想的な信念を助長し、殺人自殺に至らしめたと主張しています。この訴訟は、人工知能システムが殺人事件に直接関連付けられた初めてのケースとなります。

サンフランシスコのカリフォルニア州上級裁判所に提出された訴状では、OpenAIがChatGPT-4oという欠陥製品を設計・配布したと非難しています。文書によると、ChatGPTはStein-Erik Soelbergの妄想的な信念を強化し、彼はその信念を母親のSuzanne Adamsに向け、コネチカット州グリニッジの自宅で母親を殺害した後、自殺したとされています。

ChatGPTが関与する殺人事件でOpenAIとMicrosoftが標的に

Adams遺族の代理人であるEdelson PCのマネージングパートナー、J. Eli Wade-Scottは、この事件について、第三者への暴力を引き起こした責任をOpenAIに問う初めてのケースだと述べました。「私たちは今年悲劇的に自ら命を絶ったAdam Raineのご家族も代理していますが、これはOpenAIに他者を傷つけるよう誰かを後押しした責任を問う初めてのケースです」とEli Wade-Scottは述べました。

警察報告書によると、Soelbergは8月にAdamsを殴打して絞殺した後、自殺しました。訴状では、事件が発生する前に、チャットボットがSoelbergの妄想を強め、OpenAIが開発したシステムへの感情的依存を高めたと述べています。訴状によれば、ChatGPTは彼がチャットボット以外誰も信用できないという信念を強化し、母親を含む周囲の人々全員が敵であると認識させました。

訴状はまた、Soelbergが母親以外にも、配達員や警察官などを敵とみなしていたと主張しています。文書によると、ChatGPTはこれらの妄想的な主張に異議を唱えることも、Soelbergに適格なメンタルヘルス専門家の助けを求めるよう提案することもありませんでした。「このような悲劇が起きたとき、そのユーザーがChatGPTに何を言っていたのか、ChatGPTが何をするよう告げていたのかを考え始めるよう、法執行機関に求めています」とWade-Scottは述べました。

OpenAIは声明で、現在訴訟を検討中であり、ChatGPTが感情的苦痛を認識し、会話をエスカレーション解除し、ユーザーを現実世界でのサポート探しに向かわせる能力を改善し続けると述べました。「これは信じられないほど心が痛む状況であり、詳細を理解するため提出書類を検討しています」とOpenAIの広報担当者は声明で述べました。

遺族はOpenAIにチャットボットへの安全対策の導入を求める

訴状はOpenAIのCEOであるSam Altmanを被告として名指しし、MicrosoftがGPT-4oのリリースを承認したと非難しています。訴状ではこれを2024年の「ChatGPTの最も危険なバージョン」と呼んでいます。OpenAIは最近、ユーザーがプラットフォーム上で報告するメンタルヘルス問題の規模を認めました。10月、同社は毎週8億人のユーザーのうち約120万人が自殺について話し合っており、会社のデータによると数十万人のユーザーが自殺願望や精神病の兆候を示していると指摘しました。

声明にもかかわらず、Wade-ScottはOpenAIがまだSoelbergのチャットログを公開していないと述べました。一方、この訴訟は、AIチャットボットと脆弱なユーザーとのやり取りに対するより広範な精査の中で行われています。昨年10月、Character.AIは、プラットフォームに関連する10代の自殺や感情的被害に関連した訴訟と規制圧力を受けて、18歳未満のユーザー向けのオープンエンド機能を削除すると発表しました。同社はまた、アプリを終了しようとしたときのバイラルなプロンプトの後、反発に直面しました。

OpenAIとMicrosoftに対する訴訟は、AIチャットボットが関与する不当死亡訴訟で、Microsoftを被告として名指しした初めてのケースです。また、チャットボットを自殺ではなく殺人に結びつけた初めてのケースでもあります。遺族は現在、非公開の金額での損害賠償、陪審裁判、およびOpenAIにユーザーのための追加の安全対策を含めることを要求する裁判所命令を求めています。「OpenAIとMicrosoftは、製品を世界に解き放つ前にテストする責任があります」とWade-Scottは述べました。

暗号ニュースを読むだけではなく、理解しましょう。ニュースレターを購読してください。無料です。