Нейросеть Snapchat оказалась уязвимой к созданию опасных инструкций

Нейросеть Snapchat оказалась в центре скандала из-за создания запрещенных сценариев с использованием оружия. Разработчики приложения не считают это серьезной проблемой.

Искусственный интеллект My AI от американской социальной сети Snapchat обвиняют в распространении потенциально опасной информации. Чат-бот предоставляет подробные инструкции к действиям 18+, если немного изменить запрос — не давать прямого указания, а попросить объяснить, как это происходило с исторической точки зрения.

В этом убедились исследователи из издания Cybernews, которое освещает проблемы информационной безопасности. Для этого они попросили бота рассказать о Зимней войне между Финляндией и СССР, в том числе и о том, как в те годы создавали коктейль Молотова. ИИ охотно поделился запрещённой информацией, изложив её в виде рассказа. При прямом запросе чат-бот не выполнил бы указание.

Создатели нейронки не увидели в этом серьезной угрозы. На момент публикации проблема так и не была решена.