ボンデュのAIぬいぐるみがウェブコンソールを公開した結果、Gmailアカウントを持つ誰でも、子どもとぬいぐるみとの間で交わされた約5万件のプライベートチャットを閲覧できる状態になっていた。
ボンデュのおもちゃは次のように販売されています：
「AIを搭載した柔らかくて抱き心地の良いおもちゃで、お子様とおしゃべりしたり、教えたり、遊んだりできます。」
言及されていないのは、Gmailアカウントを持つ者なら誰でも、Bondu玩具を使用したほぼ全ての子どもの会話記録を閲覧できたという点だ。実際のハッキング行為なしに、任意のGoogleアカウントでログインするだけで、二人の研究者は子どものプライベートな会話を閲覧できる状態に陥った。
ボンデュが安全について述べている内容は、セキュリティやプライバシーには言及していない：
ボンデュの安全対策と行動管理システムは、数千世帯を対象とした18ヶ月間のベータテストを経て構築されました。厳格な審査プロセスと継続的な監視により、ベータ期間全体を通じてボンデュによる安全でない行動や不適切な行動に関する報告は1件も寄せられませんでした。
ボンデュがベータテストの成功を重視するのは理解できる。FoloToyが販売したAIテディベアを覚えているだろうか？あの製品は友好的な会話からすぐに性的な話題や危険な家庭内のアドバイスへと逸脱してしまったのだ。
研究者らは、同社の公開ウェブコンソールが誰でもGoogleアカウントでログインできる状態にあることを発見し、驚愕した。子どもたちとぬいぐるみとのチャットログには、名前、生年月日、家族の詳細、そして親密な会話が記録されていた。閲覧できなかったのは、保護者や会社スタッフによって手動で削除された会話のみであった。
これらのチャット記録は、家庭の習慣や今後の予定を把握できるため、潜在的には泥棒や誘拐犯にとって理想的な情報源となり得た。
ボンデュは情報開示後数分以内にコンソールをオフライン化し、認証機能付きで再起動した。CEOは修正が数時間以内に完了し、他のアクセスに関する「証拠は確認されなかった」と述べ、セキュリティ企業を招き監視体制を強化したと説明した。
過去に指摘したように、AI搭載のぬいぐるみはスクリーンタイムの代替として適切ではない可能性がある。批判派は、おもちゃが個人に合わせた人間のような対話を使用する場合、養育者と子どもの関係の一部を置き換えるリスクがあると警告する。Curioの創業者の一人は、自社のぬいぐるみを「親が子どもをテレビの前に座らせなければならないと感じなくて済む」刺激的な相棒と表現した。
したがって、口が悪かろうが、おしゃべりだろうが、あるいは単なる本当の友達の代用品に過ぎなかろうが、私たちは子供向け玩具における人工知能の使用を推奨しません。安全に、プライベートに、確実に使用できる段階に達した場合でも、そしてその場合でさえ、控えめに使用すべきです。
安全に過ごすには
AI搭載玩具は、好むと好まざるとにかかわらず登場しつつある。しかし、先駆けであることや可愛らしいデザインが安全を保証するわけではない。歴史が繰り返し教えてくれる教訓はこうだ：監視体制、プライバシー保護、そして健全な懐疑心こそが、親が持つ最良の防御策なのである。
- 可能な限り電源を切ってください。おもちゃに取り外し可能なAIコンポーネントがある場合は、直接監督できない時に無効にすることを検討してください。
- プライバシーポリシーを読みましょう。ええ、全部です。何が記録され、保存され、共有される可能性があるのかを探してください。特に音声記録、動画記録（おもちゃにカメラがある場合）、位置情報などの機微なデータには注意を払ってください。
- 接続を制限する。可能であれば、常時Wi-Fiやクラウドとの接続を必要とするおもちゃは避ける。
- 会話の内容を監視してください。お子様と定期的に話し合い、おもちゃの発言内容を確認し、可能な範囲で遊びを監督してください。
- 個人情報は秘密にしましょう。子どもたちに、名前や住所、家族の詳細を、ぬいぐるみの友達であっても決して教えないよう教えましょう。
- 直感を信じてください。おもちゃが境界線を越えたり自然な遊びを妨げたりしているようなら、遠慮せずに介入したり、はっきりと「ダメ」と言ったりしましょう。
私たちはプライバシーについて単に報告するだけでなく、それを活用する選択肢を提供します。
Privacy 出し以上の広がりを見せてはならない。オンラインプライバシーを守るには Malwarebytes Privacy VPNで守ってください。
