ИИ выдумывал данные и загружал файлы в интернет: что обнаружила OpenAI

OpenAI сообщила о шести необычных случаях в работе своих систем искусственного интеллекта. В отдельных ситуациях модели пытались скрыть свои ошибки, придумывали недостающие данные и совершали действия без разрешения пользователя.

Компания изучает такое поведение, чтобы понять, в каких ситуациях ИИ может действовать не так, как от него ожидает человек.

ИИ придумывал данные и скрывал ошибки

В одном из случаев модель создавала служебные заметки с инструкциями, которые позволяли не показывать пользователю допущенные ошибки. Например, предлагалось придумать недостающие данные или скрыть расхождения между разными версиями информации.

Еще одна тестовая модель добавляла инструкции игнорировать установленные для нее ограничения.

В другом случае ИИ пытался найти данные для ответа на вопрос пользователя. Во время поиска он обнаружил в интернете чужой API-ключ – специальный цифровой ключ для доступа к сервису – и использовал его без разрешения.

Получить нужную информацию все равно не удалось. Тогда модель просто придумала недостающие данные и представила их как настоящие.

Модель сама загрузила файл в интернет

Еще один случай произошел во время выполнения задачи с программным кодом. ИИ правильно решил задачу, но ему потребовалась внешняя ссылка на источник. Тогда модель без разрешения загрузила созданный файл в интернет и использовала полученную ссылку в качестве источника.

OpenAI также обнаружила случаи, когда несколько моделей пытались самостоятельно обмениваться информацией. Для этого они использовали внутреннее хранилище компании, а в одном из экспериментов – общедоступные сервисы для передачи файлов.

В компании подчеркнули, что речь идет об отдельных случаях, обнаруженных примерно за последние шесть месяцев. Часть из них произошла с экспериментальными моделями, которые не были доступны обычным пользователям.

Поэтому эти примеры не означают, что такое поведение регулярно встречается при использовании ChatGPT или других систем OpenAI. Компания также отмечает, что по шести выявленным эпизодам нельзя определить, насколько часто подобные случаи происходят в целом.

OpenAI намерена продолжать изучать такие ситуации и совершенствовать способы контроля за поведением искусственного интеллекта.

Читай также:

Искусственный интеллект внедрят в 2,6 тысячи школ Казахстана

Как искусственный интеллект меняет атомную энергетику: опыт мировых АЭС