Европарламент принял AI Act — первые в мире правила для искусственного интеллекта
Автор: Серж Маршалл
Документ призван обеспечить безопасность, прозрачность, экологичность и этичность использования ИИ в Европе. Куча хороших пожеланий в законе. Это замечательно!
А теперь подробно - чем будет заниматься неэтичный ИИ где-нибудь там, где на ограничения плюют.
Итак, запоминайте:
• удалённая биометрическая идентификация, в том числе в общественных местах в реальном времени;
• биометрическая категоризация с использованием чувствительных характеристик (например, пол, раса, этническая принадлежность, гражданство, религия, политическая позиция);
• прогностические полицейские системы (основанные на профилировании, местоположении или прошлом криминальном поведении);
• распознавание эмоций в правоохранительных органах, пограничных службах, на рабочих местах и в учебных заведениях;
• неизбирательное извлечение биометрических данных из социальных сетей или видеозаписей с камер видеонаблюдения для создания баз данных распознавания лиц.
Будут создаваться системы, которые могут потенциально причинить вред здоровью людей или окружающей среде. Сюда также входят системы искусственного интеллекта, которые используются для влияния на избирателей в политических кампаниях и алгоритмы рекомендаций соцсетей.
Некоторые чат-боты (его поставщики-бяки) не будут информировать пользователей о том, что они взаимодействуют с ИИ, а не с человеком. Для генеративных моделей требование — сообщать пользователям, что контент создан нейросетью, иногда тоже не будет исполняться.
***
Принятие этого закона говорит о том, что тема горячая. В социуме запускается противостояние закон vs ИИ-преступник, нарушающий закон. И полиция по защите населения от плохого ИИ появится, не сомневайтесь. И фильмы-ужастики про это снимут. И многие почувствуют последствия манипулирования возможностями ИИ на собственной шкуре - как это сейчас происходит при общении с телефонными мошенниками.
Да, вот в такое интересное время мы теперь живем!
P.S. На самом деле закон еще окончательно не принят. Пока он обсуждается в Комитетах ЕП, в июне должны принять.