Игрушка Bondu с искусственным интеллектом раскрыла веб-консоль, которая позволяла любому пользователю с учетной записью Gmail читать около 50 000 личных чатов между детьми и их плюшевыми игрушками.
Игрушка Bondu продается под названием:
«Мягкая, приятная на ощупь игрушка с искусственным интеллектом, которая может общаться, учить и играть с вашим ребенком».
Однако в статье не упоминается, что любой пользователь с учетной записью Gmail мог прочитать записи практически всех детей, которые использовали игрушку Bondu. Без какого-либо взлома, просто войдя в систему с помощью любой учетной записи Google, два исследователя обнаружили, что могут просматривать личные разговоры детей.
В высказываниях Бонду о безопасности не упоминаются вопросы охраны и конфиденциальности:
«Системы безопасности и поведения Bondu были созданы в течение 18 месяцев бета-тестирования с участием тысяч семей. Благодаря тщательным процессам проверки и постоянному мониторингу, за весь период бета-тестирования мы не получили ни одного сообщения о небезопасном или ненадлежащем поведении со стороны Bondu».
Акцент Bondu на успешном бета-тестировании вполне понятен. Помните плюшевого мишку с искусственным интеллектом, выпущенного компанией FoloToy, который быстро переходил от дружеского общения к сексуальным темам и небезопасным советам по ведению домашнего хозяйства?
Исследователи были потрясены, обнаружив, что общедоступная веб-консоль компании позволяла любому пользователю войти в систему с помощью своей учетной записи Google. В журналах чата между детьми и их плюшевыми игрушками были раскрыты имена, даты рождения, подробности о семье и интимные разговоры. Единственные разговоры, которые были недоступны, — это те, которые были вручную удалены родителями или сотрудниками компании.
Потенциально эти журналы чата могли бы стать мечтой грабителя или похитителя, поскольку они дают представление о распорядке дня в доме и предстоящих событиях.
Bondu отключил консоль в течение нескольких минут после раскрытия информации, а затем перезапустил ее с аутентификацией. Генеральный директор заявил, что исправления были завершены в течение нескольких часов, они не обнаружили «никаких доказательств» другого доступа, привлекли охранную фирму и добавили мониторинг.
В прошлом мы уже отмечали, что игрушки с искусственным интеллектом могут быть не лучшей альтернативой экранному времени. Критики предупреждают, что когда игрушка использует персонализированный, похожий на человеческий диалог, она рискует заменить некоторые аспекты отношений между ребенком и воспитателем. Один из основателей Curio даже описал свою плюшевую игрушку как стимулирующего помощника, чтобы родители «не чувствовали, что им нужно сажать детей перед телевизором».
Итак, будь то сквернословие, болтливость или просто слабая замена настоящим друзьям, мы не поощряем использование искусственного интеллекта в детских игрушках — если только мы не дойдем до того, что их можно будет использовать безопасно, конфиденциально, надежно и даже тогда — с осторожностью.
Как оставаться в безопасности
Игрушки на базе искусственного интеллекта появятся, нравится нам это или нет. Но то, что они первые или самые милые, не означает, что они безопасны. История учит нас следующему: контроль, конфиденциальность и здоровая доза скептицизма — лучшая защита для родителей.
- Отключите все, что можно.Если игрушка имеет съемный компонент искусственного интеллекта, подумайте о его отключении, когда вы не можете непосредственно контролировать ее работу.
- Ознакомьтесь с политикой конфиденциальности. Да, я знаю, со всей. Обратите внимание на то, что будет записываться, храниться и потенциально передаваться. Особое внимание уделите конфиденциальным данным, таким как голосовые записи, видеозаписи (если игрушка имеет камеру) и данные о местоположении.
- Ограничьте подключение к сети.По возможности избегайте игрушек, которые требуют постоянного подключения к Wi-Fi илиоблачномусервису.
- Контролируйте разговоры.Регулярно проверяйте, что говорит игрушка, и, по возможности, следите за игрой.
- Не разглашайте личную информацию.Научите детей никогда не сообщать свои имена, адреса или данные о семье, даже своим плюшевым друзьям.
- Доверяйте своим инстинктам.Если игрушка, по вашему мнению, переходит границы или мешает естественной игре, не бойтесь вмешаться или просто сказать «нет».
Мы не просто сообщаем о конфиденциальности - мы предлагаем вам воспользоваться ею.
Риски Privacy не должны выходить за рамки заголовка. Сохраняйте конфиденциальность в Интернете с помощью Malwarebytes Privacy VPN.
