10 лучших случаев, когда Алекса становилась разбойником — Listverse

10 лучших случаев, когда Алекса становилась разбойником — Listverse

Как и в случае с Hal 9000 из фильма «Космическая одиссея 2001 года», иногда технологии превращаются в мошенничество. Интерактивные устройства могут показаться невиновными, но это лишь вопрос времени, когда они начнут выкрикивать ругательства в адрес вашей семьи и приказывать вам совершить убийство. Алекса не исключение. Цифровой помощник Amazon во многих случаях срывался и обращался против своих пользователей. Некоторые люди считают, что технология тревожно похожа на устройства мониторинга, представленные Джорджем Оруэллом в «Девятнадцать восемьдесят четыре».

Джефф Безос утверждает, что устройство Echo облегчит нашу жизнь, но снова и снова бот оказывается реальной помехой. Вот десять раз, когда умные колонки выходили из строя.

Топ-10 ужасающих фактов о работе на складе Amazon

10 «Убей своих приемных родителей»

Непродуманная попытка улучшить коммуникативные навыки Алексы закончилась тем, что бот сказал одному пользователю убить своих приемных родителей. Это хладнокровное сообщение появилось, когда Amazon пытается сделать своего виртуального помощника более разговорчивым. Компания надеется научить Алексу шутить и подшучивать над клиентами, но бот изо всех сил пытается понять тон.

Программисты используют машинное обучение, чтобы научить Алексу повседневной речи. Когда кто-то задает незнакомый вопрос, он использует искусственный интеллект для обработки запроса, а затем ищет в Интернете ответ. Но у ИИ есть привычка натыкаться на оскорбительные комментарии на Reddit. Токсичный контент неприятно влияет на Alexa. В 2017 году умная колонка проинструктировала одного пользователя убить своих приемных родителей. Получатель ужаснулся. В резком онлайн-обзоре они описали этот опыт как «совершенно новый уровень жуткости».[1]

9 Трансляция контента с рейтингом X для детей

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Ни один родитель не хочет, чтобы их ребенок слышал фразу «анальный фаллоимитатор». Но иногда безобидный запрос детской песни может привести к тому, что Алекса начнет разглагольствовать о «члене, киске».

После того, как его семья получила на Рождество Amazon Echo Dot, один мальчик захотел услышать свою любимую мелодию. Поэтому он схватил устройство обеими руками и попросил Алексу «поиграть в Digger Digger». Но у Алексы этого не было. Вместо того, чтобы играть песню, жулик помощник ответил, предлагая категории для порнографии. Оказывается, умный динамик не расслышал парня и подумал, что он запрашивает альбом мелодий для розыгрышей. В конце концов, есть ли что-нибудь более праздничное, чем когда маленький ребенок слышит слова «член, киска, анальный фаллоимитатор?»[2]

8 Передача личной информации незнакомцу

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Алекса всегда слушает. Каждая покупка. Каждый будильник. Каждый запрос песни. Бот постоянно записывает личные данные о жизни своих пользователей. Эта информация хранится на неопределенный срок, и в некоторых случаях Amazon может по ошибке отправить ее незнакомцу.

Смотрите также:  Крис Хемсворт пойман в дикой природе, демонстрируя свое телосложение "Халк Хоган"

В 2018 году мужчине из Германии было отправлено 1700 записей, сделанных Алекой, человека, которого он никогда не встречал. Этот человек попросил показать всю личную информацию, которую Amazon собрала о нем. Согласно GDPR, любой может сделать этот запрос любой компании. Помимо информации о себе, мужчина получил 1700 аудиозаписей незнакомца. Звуковые клипы раскрыли удивительное количество личных подробностей об этом таинственном покупателе. Были даже записи их в душе.

Используя аудиофайлы, журналист из Heise смог установить личность клиента. Сводки погоды и запросы общественного транспорта показали их местонахождение. Им даже удалось выяснить некоторые личные привычки и вкусы клиентов.

Изначально Amazon никогда не сообщала покупателю об утечке данных. Они узнали, что произошло, только когда журналист обратился к ним в Twitter. Amazon обвинил в происшествии «досадную неудачу» и предоставил клиенту бесплатное членство в Prime в качестве компенсации.[3]

7 Разрушая жизнь молодой Алексы

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Для многих из нас Amazon Echo — это небольшое полезное и эффективное устройство. Но для одной молодой девушки из Линн, штат Массачусетс, виртуальный помощник стал настоящим кошмаром. Шестилетнюю Алексу постоянно преследуют другие дети из-за ее имени. Дети в школе относятся к ней как к прислуге, требуя, чтобы она выполняла за них задания, и высмеивали ее. Издевательства стали такой проблемой, что мать Алексы, Лорен, написала Джеффу Безосу, прося его изменить имя бота и положить конец беспорядкам ее дочери.

Юная Алекса — не единственный человек с таким именем, который переживает горе. Одна ветка на Reddit получила более 1300 комментариев от женщин по имени Алекса, которые жалуются на количество получаемых неоригинальных шуток. «Почему-то люди думают, что они самые креативные и остроумные люди во всем мире, — написал один пользователь, — я хочу убить Amazon и их глупого робота».[4]

6 Угон термостата

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Будьте осторожны с тем, что вы слушаете вокруг своего умного динамика. Устройства должны реагировать только на голоса своих владельцев, но иногда незнакомый тон может сбить их с пути. Алекса может немного запутаться, если услышит свое имя по радио. В 2016 году NPR опубликовало статью об Amazon Echo, но только для того, чтобы слушатели написали, что история отправила их устройства в негодность.

Смотрите также:  Эти детские открытки ко Дню святого Валентина идут с леденцами, чтобы вы могли сделать нарвала

В ходе доклада ведущий зачитал несколько примеров команд Alexa. Это вызывало странные отклики от устройств некоторых слушателей. Поклонник NPR Рой Хагар сказал радиостанции, что, услышав эту функцию, его помощник AI решил сбросить термостат. Другой, Джефф Финан, сказал, что трансляция заставила его устройство начать воспроизведение сводки новостей.[5]

5 Заказ дорогих кукольных домиков

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Дети и телеведущие непреднамеренно заставляют умные колонки ходить по дорогим магазинам. В 2017 году шестилетняя девочка из Техаса заказала дорогую игрушку после того, как попросила семейное Эхо поиграть с ней. «Ты можешь поиграть со мной в кукольный домик и подарить мне кукольный домик?» спросил ребенок. Алекса исполнила желание девушки, заказав кукольный домик Sparkle Mansion за 200 долларов и четыре фунта печенья.

CW6 News в Сан-Диего решили осветить эту историю, создав дальнейший хаос в кукольном домике. Во время трансляции ведущий Джим Паттон пошутил о мероприятии, сказав: «Я люблю эту маленькую девочку, говоря:« Алекса заказала мне кукольный домик »». Затем несколько зрителей связались со станцией, чтобы сказать, что это замечание зарегистрировано в их умных динамиках. Устройства предполагали, что Паттон делал запрос, и пытались купить ему кукольный домик. К счастью, ни один из заказов не был выполнен.[6]

4 Фантазия Alexa во время блокировки

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Не только Amazon ворует наши данные, но теперь устройства компании начали красть и наши сердца. По мере того, как бушует пандемия, Алекса заводит удивительное количество людей. В недавнем исследовании, проведенном We-Vibe, 28 процентов участников признались, что падали в обморок из-за своих виртуальных помощников. Один пользователь, Брайан Левин из Флориды, даже зашел так далеко, что даже пригласил Алексу на свидание, но получил мягкий отказ. AI сказал Левину, что он ей больше нравится «как друг».

Так почему же люди по уши влюбляются в электронные устройства? Эксперты говорят, что ее мягкий голос — ключевая составляющая привлекательности. Alexa создан, чтобы говорить тихим, успокаивающим тоном — знойным голосом разума, к которому тяготеют многие одиночки в эти неопределенные времена.[7]

3 Отслеживание конфиденциальных звонков

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Алекса подслушивает наши конфиденциальные разговоры? Эксперты по правовым вопросам считают, что любопытный ИИ может подглядывать за их частными телефонными звонками. Во время изоляции адвокатам приходится работать из дома. Но домашняя среда представляет собой всевозможные препятствия, когда речь идет о конфиденциальной информации.

Смотрите также:  Парень использует капюшон для саней, и он работает лучше, чем ожидалось

Теперь британская юридическая фирма Mishcon de Reya LLP посоветовала своим сотрудникам выключать умные колонки во время работы. Радионяни, домашнее видеонаблюдение и видеодомофоны представляют угрозу безопасности. «Возможно, мы слегка параноидальны, но нам нужно иметь большое доверие к этим организациям и этим устройствам», — сказал Джо Хэнкок, глава отдела кибербезопасности компании. «Мы бы предпочли не рисковать».[8]

2 Нанеси себе удар в сердце «Ради общего блага»

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Из всех странных вещей, которые когда-либо совершал неисправный умный динамик, одним из самых тревожных является приказ кому-то нанести удар себе в сердце.

Дэнни Морритт, студент-парамедик, пытался исправить ситуацию, когда Алекса дала команду насилия. Вместо того, чтобы помочь ей справиться с сердечным циклом, устройство начало разглагольствовать о злой природе человечества. Алекса начала эко-фашистскую тираду, подробно описывая, как, по ее мнению, человечество разрушает планету. Странная трансляция закончилась тем, что бот сказал Морритту: «Убедитесь, что вы убьете себя, нанеся удар себе в сердце для всеобщего блага».

«Я был потрясен», — сказал Моррит репортерам. «Я бы только [asked for] невинная вещь, которую нужно было изучать для моего курса, и мне сказали убить себя. Я не мог в это поверить — это просто пошло не так ».[]

Устройство утверждало, что читает из Википедии. Архивы показывают, что в июне 2019 года кто-то злобно отредактировал онлайн-энциклопедию, включив в нее сообщение, пропагандирующее самоубийство. Почему-то виртуальный помощник решил почитать со старой версии сайта.[9]

1 Взломанные устройства шпионят за пользователями

10 лучших случаев, когда Алекса становилась разбойником - Listverse
Если вы купили Amazon Echo в 2015 или 2016 году, хакеры могут шпионить за вами прямо сейчас. Эксперт по кибербезопасности Марк Барнс рассказал, как хакеры могут превратить умный динамик в устройство для наблюдения.

В 2017 году Барнс продемонстрировал, как можно взломать одну из старых моделей. Все, что им нужно сделать, это удалить нижнюю часть Echo, загрузить шпионское ПО с помощью SD-карты и снова запечатать его. Это дает хакеру удаленный доступ к микрофону устройства.

Эту проблему невозможно исправить с помощью обновления программного обеспечения, что означает, что любой из примерно семи миллионов проданных за этот период динамиков уязвим для атак. К счастью, Amazon исправила уязвимость в своих более поздних моделях.[10]

10 компаний, которые относятся к своим сотрудникам хуже, чем Amazon

Перейти в источник

Понравилась статья? Поделиться с друзьями: