ChatGPT выдал мужчину после рассказа о планах расправы над сыном
Переписка с ИИ привела к расследованию в Бразилии.
В Бразилии 36-летнего фермера арестовали после того, как он в течение почти двух месяцев обсуждал с ChatGPT планы убийства восьмилетнего сына и других людей. Информация о переписке была передана правоохранительным органам.
Как сообщает BBC, мужчина был задержан 19 июня в сельской местности муниципалитета Сан-Габриэл-да-Палья. По данным полиции, за три дня до ареста подразделение Министерства юстиции Бразилии по борьбе с киберпреступностью получило информацию от американских правоохранителей.
По словам руководителя отдела полиции по борьбе с киберпреступностью штата Эспириту-Санту Бренну Андраде, делу придали приоритет из-за предполагаемой угрозы ребенку.
Что обнаружила полиция
По версии следствия, мужчина обсуждал в переписке с ChatGPT возможность убийства сына, нападений на других людей и последующего самоубийства.
Полиция также предполагает, что он интересовался способами получения оружия и токсичных веществ и пытался обойти ограничения чат-бота, изменяя формулировки своих запросов.
Во время обыска дома правоохранители обнаружили четыре бутылки с неустановленными веществами и веревку с петлей. Эти предметы изучаются следствием.
Полиция также проверяет информацию о возможных контактах мужчины с предполагаемым наемным убийцей.
Что говорит защита
Сам подозреваемый отрицает намерение причинить вред сыну. Его адвокат утверждает, что сообщения в ChatGPT могли быть лишь фантазиями или «всякой чушью» и не свидетельствуют о подготовке преступления.
После 54 дней под стражей мужчина был освобожден 13 августа. Обвинения ему пока не предъявлены. При этом суд избрал меры пресечения: электронный браслет и запрет на контакты с сыном и его матерью.
Расследование продолжается.
Может ли переписка с ИИ стать доказательством
Случай вызвал дискуссию о том, какую роль сообщения пользователей чат-ботов могут играть в уголовных расследованиях.
По данным полиции, OpenAI передала правоохранителям информацию о пользователе и его сообщения, однако ответы ChatGPT следствию предоставлены не были.
Юрист по уголовным делам Маира Фернандес считает, что для оценки подобных сообщений необходима полная история переписки. По ее словам, отдельные фрагменты без контекста не позволяют определить, что именно происходило во время разговора и как формировался диалог.
В OpenAI заявили, что компания может уведомлять правоохранительные органы, если выявляет «достоверную и непосредственную угрозу причинения вреда другим людям».
Где проходит граница
Этот случай поднимает вопрос о том, когда потенциальная угроза, высказанная пользователем в разговоре с ИИ, требует вмешательства правоохранительных органов.
Специалисты по цифровому праву отмечают, что необходимо отличать реальную угрозу от эмоциональных высказываний, фантазий и провокаций.
По мнению профессора и специалиста по цифровому праву Патрисии Пек, вмешательство может быть оправдано, когда речь идет о конкретной потенциальной жертве, наличии средств для совершения преступления и непосредственном риске.
При этом эксперты подчеркивают необходимость баланса между предотвращением возможного насилия и защитой приватности пользователей.
Дело бразильского фермера продолжается, а следствию предстоит установить, перешли ли его намерения от обсуждения и подготовки к конкретным действиям.