Microsoft ограничит обучение ИИ на данных школьников

Microsoft вводит новые правила работы искусственного интеллекта в школах США. Компания обязалась не использовать данные учеников и педагогов для обучения ИИ, за исключением узкого случая, связанного с защитой школьников. Эти данные нельзя будет продавать, применять для рекламы или разработки продуктов, передает BAQ.KZ со ссылкой на Associated Press.

Соглашение Microsoft заключила с Американской федерацией учителей, вторым по численности профсоюзом педагогов в США. Документ имеет обязательную силу и предусматривает независимые проверки соблюдения правил.

Новые требования начнут действовать с 1 ноября во всех школах, у которых есть контракты с Microsoft.

Отдельно запрещены ИИ-функции и цифровые помощники, которые могут формировать у детей эмоциональную привязанность или удерживать их в сервисе дольше, чем требуется для учебной задачи.

Компания должна будет простым языком объяснять семьям, как работают ее инструменты и что происходит с данными учеников.

Microsoft обязалась не применять чувствительную информацию, включая сведения о поле, расе, возрасте и почтовом индексе, даже если имя человека удалено.

Школы начали ограничивать ИИ

Вопрос безопасности ИИ в американских школах становится все заметнее. В Нью-Йорке и Лос-Анджелесе крупнейшие школьные системы страны ввели годовой мораторий на применение ИИ учениками.

В Нью-Йорке ограничения распространяются на учащихся начальной и средней школы. В Лос-Анджелесе они действуют и для старшеклассников.

За это время школьные округа намерены проверить действующие контракты с технологическими компаниями и оценить, как цифровые сервисы работают с персональными данными детей.

При этом ИИ уже стал частью повседневной учебы. Миллионы школьников обращаются к чат-ботам за помощью с заданиями, личными советами и эмоциональной поддержкой. При этом дети и родители часто не знают, где затем хранятся такие переписки и кто получает к ним доступ.

OpenAI и Anthropic ведут переговоры

Американская федерация учителей рассчитывает, что соглашение с Microsoft станет ориентиром и для других технологических компаний.

OpenAI и Anthropic сообщили, что обсуждают собственные соглашения с профсоюзом.

Google пока не заявил, готов ли принять такие же правила.

В августе компания открыла Gemini для многих учащихся школ K-12, работающих через Google Classroom. Доступ появился только в тех школах, которые разрешили ученикам пользоваться Gemini или Gemini Notebook.

Google Classroom, по данным компании, используют около 150 млн учителей и учеников по всему миру.

Эксперты предупреждают, что соглашения с одной компанией недостаточно. Американские школы работают с тысячами цифровых сервисов, часть которых тоже собирает данные учеников.

Специалисты по защите данных считают, что ответственность за конфиденциальность детей должна в большей степени лежать на технологических компаниях, а не на родителях, учениках и отдельных школах.