Латвийская ученая будет контролировать искусственный интеллект в ООН
ООН учредила первый в мире глобальный научный орган, который займется оценкой рисков и последствий развития искусственного интеллекта. Решение принято на фоне растущей обеспокоенности специалистов отрасли и разногласий между крупнейшими державами.Генеральная Ассамблея поддержала создание Независимой международной научной комиссии по ИИ большинством голосов — 117 стран высказались «за». Против выступили США и Парагвай. Еще несколько государств воздержались.Генеральный секретарь ООН Антониу Гутерриш назвал новую структуру «фундаментальным шагом к формированию глобального научного понимания искусственного интеллекта». По его словам, комиссия должна обеспечить независимую и строгую научную оценку технологий, чтобы все страны могли участвовать в обсуждении на равных. В состав органа вошли 40 экспертов, отобранных из более чем 2600 кандидатов. Их мандат рассчитан на три года, а ежегодные доклады будут посвящены возможностям, рискам и последствиям применения ИИ. У Европы в комиссии 11 мест: Жоэль Барраль (Франция), Мелахат Билге Демиркоз (Турция), Анна Корхонен (Финляндия), Александра Королова (Латвия), Андрей Незнамов (Россия), Максимилиан Никель и Бернхард Шёлькопф (Германия), Роман Орус (Испания), Йоханна Пиркер (Австрия), Петр Саньковский (Польша) и Сильвио Саварезе (Италия).Королова — латвийско-американский ученый в области компьютерных наук. Доцент Принстонского университета. В своих исследованиях она разрабатывает алгоритмы, обеспечивающие конфиденциальность и справедливость, изучает влияние машинного обучения и ИИ на отдельных людей и общество, а также проводит аудит ИИ на предмет алгоритмической предвзятости.
Между тем, представитель США Лорен Ловлейс назвала комиссию «существенным превышением мандата и компетенции ООН» и заявила, что «регулирование ИИ — это не та сфера, в которой ООН должна диктовать условия». Президент США Дональд Трамп ранее выступал за минимальное государственное вмешательство в развитие ИИ. Несмотря на возражения США, у страны по-прежнему два представителя в комиссии: профессор Университета Миннесоты Випин Кумар и Марта Палмер, вышедшая на пенсию профессор Университета Колорадо и специалист по лингвистике.Голосование прошло на фоне тревожных заявлений специалистов отрасли. Бывшие сотрудники компаний, включая Anthropic и OpenAI, предупреждают о потенциальных угрозах технологии и необходимости более строгих мер безопасности.Несмотря на разногласия, в ООН рассчитывают, что новая комиссия станет ключевой международной площадкой для научной оценки стремительно развивающихся технологий.
