Комиссия по национальной безопасности в сфере искусственного интеллекта опубликовала свой доклад с десятками рекомендаций для президента Джо Байдена, Конгресса, деловых и правительственных лидеров. Китай, по мнению группы, представляет собой главный вызов технологическому доминированию США, который угрожает экономической и военной мощи впервые после окончания Второй мировой войны.
Комиссия из 15 членов называет инвестиции в размере 40 миллиардов долларов для расширения и демократизации исследований и разработок в области ИИ “скромным авансом за будущие прорывы” и поощряет отношение политиков к инвестициям в инновации сродни тому, что привело к созданию системы межгосударственных автомагистралей в 1950-х годах. Группа предполагает, что федеральное правительство в ближайшие годы потратит на ИИ сотни миллиардов долларов.
В докладе рекомендуется несколько изменений, которые могут повлиять на бизнес, технологии и национальную безопасность. Например, в условиях глобального дефицита полупроводников в докладе содержится призыв к Соединенным Штатам оставаться “на два поколения впереди” Китая в производстве полупроводников и предлагается огромный налоговый кредит для производителей полупроводников. Президент Байден пообещал поддержку в размере 32 миллиардов долларов для решения проблемы глобального дефицита чипов и на прошлой неделе подписал указ о расследовании проблем цепочки поставок.
“Я очень надеюсь, что Конгресс глубоко обдумает этот доклад и его рекомендации, — заявил сегодня генеральный директор AWS Энди Джасси в рамках совещания, посвященного утверждению доклада. — Я думаю, необходимо немедленно принимать меры в соответствии с этими потребностями, и важно понимать, что вы не можете просто щелкнуть выключателем и иметь эти возможности на месте. Чтобы реализовать их, требуется постоянная, самоотверженная и тяжелая работа в течение длительного периода времени”.
Среди членов комиссии, которые помогли составить отчет, — генеральный директор Oracle Сафра Катц (Safra Catz), главный ученый Microsoft Эрик Хорвитц (Eric Horvitz), руководитель Google Cloud AI Эндрю Мур (Andrew Moor) и Ясси (Jassy), который занял пост генерального директора Amazon в конце этого года. Публикация итогового отчета стала последним актом съезда временной комиссии, сформированной в 2018 году для консультирования федеральных политиков.
756-страничный доклад, призывающий Соединенные Штаты быть готовыми к повсеместному внедрению ИИ к 2025 году, был одобрен сегодня в ходе голосования. Мур и Хорвитц воздержались от рассмотрения глав 2 и 11 доклада из-за предполагаемого конфликта интересов.
“Я думаю, стоит повторить, что для победы в области искусственного интеллекта нам нужно больше денег, больше талантов, более сильное лидерство, и все вместе мы как комиссия считаем, что это приоритет национальной безопасности, и что шаги, изложенные в докладе, представляют собой не просто наш консенсус, а дистилляцию сотен и сотен экспертов в области технологий, политики и этики, и поэтому я призываю общественность и всех остальных следовать нашим рекомендациям”, — сказал председатель комиссии и бывший генеральный директор Google Эрик Шмидт.
Теперь, по словам Шмидта и других уполномоченных, начинается работа по представлению этих идей ключевым лицам, принимающим решения у власти.
Рекомендации, содержащиеся в докладе, включают в себя:
- Разведка должна стремиться к полной автоматизации многих задач к 2030 году.
- В соответствии с предыдущими рекомендациями заключительный отчет призывает создать цифровой корпус долговременного или краткосрочного найма технических талантов и Академию цифровых услуг для создания аккредитованного университета для подготовки государственных технических талантов. В докладе говорится, что неспособность признать необходимость развития технической рабочей силы правительства недальновидна и представляет угрозу национальной безопасности.
- Следует величить доступ к программному обеспечению с открытым исходным кодом для федеральных государственных служащих в таких учреждениях, как Пентагон. В докладе TensorFlow и PyTorch упоминаются как «обязательные инструменты в арсенале любого разработчика ИИ.”.
- В ближайшие пять лет частные фирмы должны сформировать организацию с объемом финансирования в размере 1 млрд долларов США, которая начнет предпринимать усилия по решению проблемы неравенства.
- Широко использовать вычислительный потенциал ИИ.
- Установить ответственных руководителей по ИИ в каждом Агентстве национальной безопасности и подразделении Вооруженных сил.
- В докладе также содержится призыв к Госдепартаменту увеличить присутствие США и технологических центрах по всему миру.
- Утроить число национальных исследовательских институтов ИИ. Первые институты были введены в августе 2020 года.
- Установить регламент для агентств, критически важных для национальной безопасности, чтобы дать людям возможность сообщать о безответственных развертываниях ИИ.
- Удвоить расходы на исследования и разработки ИИ до 2026 года, когда уровень достигнет 32 миллиардов долларов.
В докладе также говорится, что иммиграция является “императивом национальной безопасности” и что иммиграционная политика может замедлить прогресс Китая. Члены комиссии рекомендуют удвоить количество грин-карт, основанных на трудоустройстве, создать визы для предпринимателей и создателей новых и прорывных технологий, а также выдавать грин-карты каждому выпускнику AI PhD из аккредитованного американского университета. Лидерство в области телекоммуникаций и робототехники 5G также упоминается в докладе как императив национальной безопасности.
Правительство контролирует военных
В рамках советов правительству доклад также выходит за рамки рекомендаций для Пентагона, распространяя их на Конгресс по пограничной безопасности и федеральные агентства, такие как ФБР и Министерство внутренней безопасности. Например, в докладе критикуется недостаточная транспарентность систем ИИ, используемых федеральными ведомствами в качестве потенциально затрагивающих гражданские свободы, и содержится призыв к Конгрессу внести поправки в требования к оценке воздействия и представлению отчетности о раскрытии информации, с тем чтобы включить отчеты о гражданских правах и гражданских свободах для новых систем ИИ или крупных обновлений существующих систем.
“Для Соединенных Штатов, как и для других демократических стран, официальное использование ИИ должно соответствовать принципам ограниченного правительства и индивидуальной свободы. Эти принципы сами себя не поддерживают. В демократическом обществе любое расширение полномочий государства должно сопровождаться мудрыми ограничениями, чтобы сделать эту власть легитимной в глазах его граждан”, — говорится в докладе.
В заявлении генерального прокурора ACLU Патрика Туми, чья работа сосредоточена на национальной безопасности, говорится, что доклад признает некоторые опасности ИИ в своих рекомендациях, но “он должен был пойти дальше и настаивать на том, чтобы правительство установило критические меры защиты гражданских прав сейчас, прежде чем эти системы будут широко развернуты разведывательными органами и военными. Конгресс и исполнительная власть должны уделять приоритетное внимание этим гарантиям, а не ждать, пока опасные системы уже укоренятся”.
В докладе утверждается, что консолидация индустрии искусственного интеллекта угрожает технологической конкурентоспособности США по ряду важных причин, усугубляя такие тенденции, как утечка мозгов и подавление конкуренции.
Внешняя политика Китая и США
Намерение Китая стать лидером ИИ к 2025 году, означает, что Китаю в докладе уделяется больше времени, чем любой другой иностранной державе. В докладе делается вывод о том, что Соединенные Штаты могут потерять военно-техническое превосходство перед Китаем в течение следующего десятилетия.
“У нас есть все основания полагать, что конкуренция с Китаем усилится”, — сказал Шмидт сегодня на заседании NSCAI.
Чтобы предотвратить рост моделей техно-авторитарного управления, подобных тем, которые практикуются в Китае, в докладе содержится призыв к Соединенным Штатам создать новую технологическую коалицию с союзниками. В докладе содержится призыв к постоянному дипломатическому диалогу на высоком уровне с Китаем для обсуждения проблем, возникающих в связи с такими новыми технологиями, как искусственный интеллект, с тем чтобы найти области для сотрудничества в решении глобальных проблем, таких как изменение климата. Этот орган мог бы также выступать в качестве форума для обмена озабоченностями или жалобами по поводу практики, несовместимой с американскими ценностями. Двусторонние переговоры между Соединенными Штатами и Китаем были проведены, как ранее рекомендовал эксперт по политике ИИ и бывший экономист Белого дома Р. Дэвид Эдельман.
В области обороны комиссары не поддерживают договор о глобальном запрещении атомного оружия с поддержкой ИИ, поскольку он “в настоящее время не отвечает интересам США или международной безопасности”, а также потому, что в докладе делается вывод о том, что Китай и Россия проигнорируют любое такое обязательство. Вместо этого в докладе содержится призыв к разработке стандартов для атомного вооружения.
В других вопросах, касающихся внешней политики и международных отношений, комиссии призывают к международному соглашению никогда не автоматизировать применение ядерного оружия и добиваться аналогичных обязательств от России и Китая.
Необходимость в руководстве подчеркивается на протяжении всего доклада. Для президента Байдена в докладе рекомендуется издать исполнительный указ, направленный на защиту интеллектуальной собственности, и создать Совет по технологической конкурентоспособности, частично занимающийся вопросами интеллектуальной собственности и разрабатывающий национальные планы.
Генеральный директор Oracle Сафра Катц назвал сотрудничество внутри министерства обороны, правительства США и союзников критически важным и заявил, что лидерство в правительстве необходимо: «Сейчас нужно сделать так много важных шагов».
“Мы очень надеемся, что единомышленников демократических стран работать вместе, чтобы убедиться в том, что технологии ИИ не протекают на враждебные руки, что даст им преимущество над нашей системы, и что мы будем объединяться вместе в безопасном и ответственном внедрения такого рода технологий в системах военного назначения”, — сказал комиссар и , в-г-Тель — основатель Гилман Луи сказал сегодня.
Соединенные Штаты работают с международными группами, такими как Организация экономического сотрудничества и развития (ОЭСР) и Глобальное партнерство по ИИ (ГПАИ), в то время как в прошлом году оборонные и дипломатические чиновники из союзников Соединенных Штатов встретились для обсуждения этического использования ИИ в военных действиях.