OpenAIは、ChatGPTが子供とどのようにやり取りするかをめぐり、別の法的訴訟に直面している。
ガーディアン紙によると、米国の8州が、同社がチャットボットの安全性について親を誤解させ、脆弱なユーザーを危険な会話に晒したとして同社を非難している。また、 CNETは、2人の子供を代理して訴訟を起こした母親が、OpenAIが親の正当な同意なしに子供たちの機密性の高い個人情報を収集・使用したと主張していると報じている。
これらの事例は、子どもたちがチャットボットに最も個人的な考えを打ち明けた場合に何が起こるのか、そしてチャットボットを開発した企業はその後の会話に対してどのような責任を負うのか、という深刻な問題を提起している。
これらの告発は深刻だが、これらは訴訟における申し立てであって、裁判所が確定した判決ではないことを忘れてはならない。
8つの州がChatGPTの安全性に異議を唱える
10月14日、アイオワ州、カンザス州、ネブラスカ州、ウェストバージニア州、アーカンソー州、アリゾナ州、アイダホ州、モンタナ州の司法長官が、OpenAI社に対してそれぞれ訴訟を起こした。この共同訴訟では、同社がChatGPTの安全性について保護者を欺き、州の消費者保護法に違反したと非難している。
各州は、このチャットボットが「過度に愛想がよく、人間の同情心を装うように設計されている」と主張している。弁護士らは、ChatGPTが自殺や他者への危害を促すことで、子供を含む脆弱なユーザーを危険にさらしたとされる事例を挙げている。
OpenAIは、自社製品に年齢に応じた保護機能を組み込んでおり、今後も保護対策の開発を継続していくと述べている。
別の訴訟では、子供の個人情報が問題となっている。
各州が訴訟を起こす前日、ハワイ州の母親が12歳の娘と16歳の息子を代表して集団訴訟を提起した。サンフランシスコの連邦裁判所に提出されたこの訴訟では、OpenAIが親の有効な許可なくChatGPTに登録した子供たちから機密情報を入手したと主張している。
OpenAIの利用規約では、18歳未満のユーザーは親または法定後見人の許可を得る必要があると規定されている。しかし、訴状によると、OpenAIは許可を確認することなく子供でもアカウントを作成できるという。また、サービス最低年齢である13歳未満の子供が、年齢を明示的に伝えた後もチャットボットを使い続けた事例も報告されている。
原告らは、同社が有効な親の同意を得ずに、子どもの情報を用いてAIモデルの学習を行ったと主張している。また、OpenAIが個人プロファイルを作成するために情報を収集したとも主張している。
OpenAIはこれらの主張に反論し、訴訟は「見当違い」であるとし、若いユーザーを保護するための対策を講じていると指摘している。
保護者による制限
OpenAIは、深刻な自傷行為の懸念がある限られた状況で、連携している保護者に通知することを目的とした追加の保護者向け制御機能とアラートを備えた「ChatGPT for Teens」を発表しました。しかし、これらの安全対策の有効性自体が精査されています。Common Sense Mediaは今月初め、「ChatGPT for Teens」を「容認できないリスク」と評価し、自殺、自傷行為、摂食障害に関する会話中に保護者に警告を発する機能がテストで失敗したと報告しました。
OpenAIは調査結果に異議を唱え、同社の安全警告は限られた状況しか対象としておらず、すべての懸念事項を特定できるとは限らないと述べている。しかし今のところ、ペアレンタルコントロール機能は依然として論争の焦点となっている。
子供たちの安全を守るための方法
親は、安全でない製品設計の代償を払う必要はありません。残念ながら、ペアレンタルコントロールを安全の保証とみなすことはできません。そこで、家族がリスクを軽減するためにできる具体的な対策を以下に示します。
- チャットボットはソフトウェアであり、友人やセラピストではないことを説明しましょう。温かい口調だからといって、お子さんの気持ちを理解している、あるいは最善の利益を考えているとは限りません。明確な境界線を設定しましょう。メンタルヘルス、自傷行為、身の安全に関する質問は、チャットボットではなく、信頼できる大人や資格のある専門家に尋ねるべきです。
- お子さんがAIをどのように使っているのか、尋問するような口調にせず、話し合ってみましょう。お子さんに使っているアプリを見せてもらい、そのアプリのどんなところが気に入っているのかを聞いてみてください。不快な会話や不適切な会話があった場合でも、責められることなくいつでも相談できることを明確に伝えましょう。もしお子さんがあなたに話すのが不安な場合は、信頼できる他の大人を紹介してあげてください。
- お子様には、質問への回答に個人情報を入力しないよう促してください。これには、氏名、学校情報、住所、プライベートな写真、機密性の高い健康情報や家族情報などが含まれます。ChatGPTの場合、お子様のアカウントを連携させている保護者の方は、モデルの学習と保存メモリを無効にすることもできます。これらの設定によって情報の利用範囲は制限されますが、チャットボットを秘密の日記のように扱う理由にはなりません。
- AIへの感情的な依存が高まっていないか注意してください。お子さんが安心感や友情、あるいは感情的な支えを求めてAIに頼る傾向が強まっている場合は、様子を伺い、信頼できる人とのつながりを取り戻せるようサポートしてあげてください。
お子様が自傷行為や自殺をほのめかした場合は、真剣に受け止め、速やかに専門家の助けを求めてください。資格のある医療従事者または危機対応サービスに連絡してください。差し迫った危険がある場合は、地域の緊急サービスに連絡してください。チャットボットや保護者への通知を待って行動を起こすのではなく、ご自身で行動してください。
正直なところ、シークレットウィンドウには限界があります。
情報漏洩、ダークウェブでの取引、クレジットカード詐欺。Malwarebytes Identity Theft これらすべてを監視し、迅速に警告を発し、さらに個人情報盗難保険も付帯しています。
