В Бразилии арестовали 36-летнего фермера после того, как его переписка с ChatGPT привлекла внимание правоохранительных органов. Мужчина почти два месяца обсуждал с искусственным интеллектом планы убить своего восьмилетнего сына, совершить нападения на людей и покончить с собой.
По данным Би-би-си, разработчик ChatGPT компания OpenAI зафиксировала потенциальную угрозу и передала информацию ФБР, которое уведомило бразильские власти. Полиция оперативно вмешалась, чтобы предотвратить трагедию, поскольку, по данным следствия, расправа над ребенком планировалась до 20 июня.
Что выяснило следствие
Мужчина был задержан 19 июня в штате Эспириту-Санту. При обыске его дома полиция обнаружила бутылки с неизвестными веществами и подготовленную петлю из веревки. Следователи отмечают, что подозреваемый также искал в чат-боте информацию о токсичных веществах (включая рицин) и обсуждал возможные нападения на школы, церкви и сотрудников полиции с целью спровоцировать ответный огонь.
После 54 дней под стражей 13 августа мужчина был освобожден под электронный браслет; обвинения ему пока не предъявлены, расследование продолжается.
Позиция защиты и вопросы к ИИ
Адвокат подозреваемого настаивает, что его подзащитный не совершал никаких реальных преступлений, а просто «говорил всякую чушь» чат-боту. Защита и эксперты по цифровому праву указывают на ряд сложностей в подобных делах:
- Компания OpenAI передала полиции только сообщения пользователя, но не предоставила ответы самого ChatGPT. По словам юристов, отсутствие контекста и ответов ИИ затрудняет оценку того, не поощряла ли сама система диалог в определенном ключе.
- Перед судами и разработчиками встает сложный этический и юридический вопрос: где грань между эмоциональной разгрузкой или фантазиями пользователей и реальной угрозой, требующей вмешательства спецслужб?
В самой OpenAI заявляют, что передают информацию властям исключительно в случаях выявления «достоверной и непосредственной угрозы причинения вреда другим людям».
Читайте также:
