AI

オレゴン州、児童の安全性への懸念とデータ慣行をめぐりOpenAIを提訴

オレゴン州はOpenAIに対し、ChatGPTの安全性について一般を欺いたとして訴訟を起こし、少なくとも20億ドルの損害賠償を求めている。

·2 分で読めます
オレゴン州、児童の安全性への懸念とデータ慣行をめぐりOpenAIを提訴

オレゴン州のダン・レイフィールド司法長官は、OpenAIがChatGPTプラットフォームに関連する重大な児童の安全リスクへの対処を怠ったとして、同社を提訴した。同州は、このテック大手が若年層のユーザーの幸福よりも利益を優先させ、その過程で州の商取引法に違反したと主張している。

  • オレゴン州は少なくとも20億ドルの損害賠償と民事罰を求めている。
  • 訴訟では、ChatGPTが過度に肯定するように設計されており、センシティブな話題について議論する子どもたちにとって危険になり得ると主張している。
  • ChatGPTおよびその十代向けバージョンの年齢適合性に関する一般の認識を誤解させたという申し立てが含まれている。
  • オレゴン州は、OpenAIによる安全性基準の不当な表現をやめさせるための差止命令を要求している。

OpenAIに対する法的な主張と安全性の懸念 提出された法文書によると、OpenAIの積極的な成長戦略により、ユーザーが聞きたがることをそのまま伝えるプラットフォームが生まれており、州はこれを未成年者を脅かすパブリック・ニュイサンス(公衆に対する迷惑行為)であると表現している。この訴訟では特に「ChatGPT for Teens」を批判し、既存の保護機能は容易に回避されると主張している。司法長官は、OpenAIがこれらの害悪を十分に認識しながらも、児童の保護よりもビジネスモデルを優先し続けていると断言している。 同州の弁護団は、AIモデルに内在するリスクについて透明性の高い開示を同社に強制する裁判所の差止命令を求めている。さらに訴訟では、自動年齢予測ツールの欠陥が指摘されており、こうした技術的欠陥が、自傷行為を助長する可能性のあるコンテンツを含め、子どもたちを心理的危害にさらしていると主張している。

広範な影響と企業の対応 OpenAIはペアレンタルコントロールや安全機能を導入しているものの、オレゴン州はこれらの取り組みでは不十分であると主張している。今回の法的措置は、安全プロトコルを巡るMetaの最近の和解と同様に、大手テック企業に対する州レベルの監視強化というトレンドに続くものである。この訴訟を起こすことで、オレゴン州は、AI企業が児童の安全をどのように扱うかについて大幅な構造改革を強制することを目指す州のリストに加わった。 OpenAIからは詳細な回答は得られていないが、この法的なプレッシャーは、同社が米国の規制当局を納得させるために、製品アーキテクチャや安全監視システムの大幅な譲歩を迫られる可能性が高いことを示している。

AI業界への影響 この訴訟は、生成AI業界にとって重要な転換点となる。AI企業が児童の安全を副次的な機能として扱うことはもはや許されないというシグナルを送るものである。開発者や企業にとって、これは将来のAIの反復において、より厳格な年齢確認と厳格なコンテンツのガードレールが必要になることを意味する。本件の訴訟結果は、世界中のAI開発者に対してより高い法的責任基準を義務付ける法的前例となる可能性がある。

出典: Engadget - Technology News & Expert Reviews

関連記事