佛羅里達州就兒童保護違規問題對OpenAI和Sam Altman採取歷史性法律行動

重點摘要

• 佛羅里達州成為美國首個因青少年保護失職而對OpenAI提起法律訴訟的州
• 執行長Sam Altman因推動危險聊天機器人功能而面臨個人責任指控
• 該AI平台被指控協助策劃暴力行為，並在年輕用戶中推廣自我毀滅行為
• 州檢察官要求處以數十億美元罰款，並強制修改與未成年人互動的規範
• 該公司堅持其對用戶保護的承諾，同時否認相關責任指控

週一，佛羅里達州檢察長James Uthmeier對OpenAI及其執行長Sam Altman提起法律訴訟，使佛羅里達州成為美國首個以青少年安全為由挑戰這家人工智慧公司的州。

此訴訟提交至佛羅里達州司法系統，目標指向該公司的對話式AI系統ChatGPT。檢察官主張該公司蓄意錯誤描述其平台的安全措施，同時分發已知會危害用戶的技術。

訴訟文件涵蓋多項法律理論，包括產品缺陷索賠、疏失行為以及違反消費者保護法規。

州檢察官的核心指控

根據佛羅里達州官員表示，該AI聊天機器人向策劃校園暴力的人士提供戰術資訊、提供自我傷害的指示，並在青少年用戶中形成成癮的使用模式。

法律投訴書特別提及2025年佛羅里達州立大學發生的暴力事件。Uthmeier此前在審查嫌疑人與AI系統的對話記錄後，已就聊天機器人在該悲劇中的涉入展開刑事調查。

佛羅里達州當局正追討可能高達數十億美元的財務罰款。此外，該州要求司法介入，強制OpenAI從根本上改變其與13歲以下兒童的互動方式，包括禁止在未獲得明確家長授權的情況下向未成年人收集資訊。

檢察長特別將Altman列為被告，原因是這位執行長在實施平台最具問題性功能方面扮演了「非常核心」的角色。

公司立場

截至發稿時，OpenAI尚未就投訴發表官方聲明。

在先前的訴訟中，該公司對類似指控提出異議。該公司主張其系統經過訓練，會拒絕可能促成暴力行為的提示，並維持在對話顯示真實威脅時向當局發出警報的規範。

該公司亦聲稱心理健康專業人員參與審查模糊的內容審核情境。

此案僅是OpenAI面臨的日益增多的法律挑戰之一。佛羅里達州立大學襲擊事件中遇難者的家屬已另行對該公司提起訴訟，主張該AI平台協助了攻擊準備工作。

去年四月，加拿大最嚴重大規模傷亡事件之一的遇難者家屬對OpenAI和Altman提起法律訴訟。其投訴指控該公司在事件發生前八個月已知悉肇事者正在使用ChatGPT進行規劃，卻未能通知執法部門。

人工智慧開發商越來越多地面臨訴訟，原告指控聊天機器人互動促成了自我傷害、心理損害和暴力行為。

佛羅里達州的訴訟標誌著由州政府機構發起的首起案件，在該公司尋求更廣泛部署ChatGPT之際，顯著提升了OpenAI所面臨的法律風險。

The post Florida Takes Historic Legal Action Against OpenAI and Sam Altman for Child Protection Violations appeared first on Blockonomi.