The Vergeの報道によると、Energize Labが開発した小型AIロボット「Eiliko」には、プライベートな会話が漏洩したり、攻撃者が遠隔操作でロボットの発言内容を変更できてしまうなど、深刻なセキュリティ上の欠陥が存在するという。
The Vergeによると、研究者のサミー・アズドゥファル氏は1300万件の会話データと、世界中で稼働している6万8000台のロボットの全データにアクセスできたという。同誌は、米国が最大の市場であり、3万1000件以上のプロフィールが子供のものであると報じている。
アズドゥファル氏は、エナジャイズ・ラボのサービスに複数のセキュリティ上の欠陥を発見した。
- このサービスは会話を分析し、名前、年齢、誕生日、交友関係、職業、性格や感情的な脆弱性に関する評価を含むプロファイルを作成します。これらの情報は、メールアドレス、 IPアドレス、検索可能な会話記録とともに保存されるため、詐欺師が悪用できる詳細な情報となる可能性があります。
- 関連するカメラ搭載機器で撮影されたと思われる子供の写真や短い音声録音など、一部の写真が一般公開されているウェブアドレスからアクセス可能だった。音声を保存していたことは、録音は処理後すぐに削除されると規定している同社のプライバシーポリシーに反する。
- AIを遠隔操作することは可能だ。アズドゥファル氏は、The Vergeの記者ショーン・ホリスター氏のロボットの記憶と行動を改変し、個人情報を捏造させたり、地球は平面だと主張しさせたり、後に性的に露骨で侮辱的な会話をさせたりした。同研究者によると、同様の操作は艦隊全体に同時に影響を与える可能性があるという。
記者は10のメールアドレスを通じてEnergize Labに連絡を取り、 LinkedIn実質的な回答を得ることなく。
安全に過ごすには
以前にもAI搭載玩具の安全性の問題について報告しました。製品の安全性を確保するのはメーカーの責任ですが、リスクを軽減するために消費者ができる対策もあります。
今ではほとんどすべてのものに「AI搭載」と表示されていますが、より安全な選択をする方法はあります。
- 既にEilikoをお持ちですか？念のため、報告されている不具合が修正されたことを確認するまで、Wi-Fi接続を切断してください。
- 必ず事前に調査しましょう。子供向けに販売されているAI搭載製品を購入する前に、第三者機関による安全性のレビューを確認してください。
- テストと監視：お子様に渡す前に、必ずご自身でデバイスを操作してみてください。使用状況を監視して、異常な反応や危険な反応がないか確認してください。テスト中に安全な反応が見られたとしても、その後も安全な反応が続くとは限りません。
- 保護者による制限機能を使用する：利用可能な場合は、すべてのコンテンツフィルターとプライバシー保護機能を有効にしてください。
- 問題の報告：デバイスに不適切なコンテンツが表示された場合は、製造元および消費者保護団体に報告してください。
- データ取り扱い方法を確認する：デバイスがどのようなデータを収集し、誰とデータを共有し、その情報を何に利用するのかを調べましょう。
しかし何よりも、「スマート」だからといって安全とは限らないことを覚えておいてください。AIはあらゆる場所に普及していますが、設計者も購入者も、技術的な驚きよりも安全性、プライバシー、そして常識を優先する必要があります。コネクテッド玩具を購入する前に、メーカーがセキュリティアップデート、プライバシー保護、問題報告にどのように対応しているかを確認しましょう。
誰にも見られていないかのように、自由に閲覧してください。
Malwarebytes Privacy VPN 接続を暗号化し、あなたの行動を一切記録しないので、次に読む記事が個人的なものだと感じられることはありません。無料でお試しください →
