Жизнь, описанная в романе Джорджа Оруэлла “1984”, «может начаться в 2024 году», если законодатели не защитят общественность от искусственного интеллекта, предупредил президент Microsoft.
Выступая перед корреспондентом Би-би-си «Панорама”, Брэд Смит (Brad Smith) сказал, что будет «трудно догнать» быстро развивающуюся технологию.
Эта программа исследует растущее использование Китаем искусственного интеллекта для наблюдения за своими гражданами.
Критики опасаются, что господство государства в этой области может угрожать демократии.
“Если мы не примем законы, которые защитят общественность в будущем, мы обнаружим, что технология мчится вперед, и ее будет очень трудно догнать”, — сказал г-н Смит.

“Я постоянно вспоминаю уроки Джорджа Оруэлла в его книге «1984». Вы знаете, там рассказывалось о правительстве, которое могло видеть все, что каждый делал, и слышать все, что каждый говорил в любое время».

“Ну, это не произошло в 1984 году, но если мы не будем осторожны, это может произойти в 2024 году».

ИИ Китая

В некоторых частях мира реальность все больше догоняет этот образ из научной фантастики, добавил он.

Китай стремится стать мировым лидером в области искусственного интеллекта к 2030 году, и многие считают, что его возможности далеко выходят за рамки ЕС.

• В 2019 году Китай опередил США по количеству патентов, полученных академическими институтами за инновации в области технологий искусственного интеллекта.

• 54% из 770 миллионов камер видеонаблюдения в мире находятся в Китае, согласно исследованиям Comparitech.

Эрик Шмидт (Eric Schmidt), бывший исполнительный директор Google, а ныне председатель Комиссии национальной безопасности США по искусственному интеллекту, предупредил, что победа над Китаем в области искусственного интеллекта крайне необходима.

“Мы находимся в геополитическом стратегическом конфликте с Китаем, — сказал он. — Путь к победе состоит в том, чтобы объединить наши ресурсы, чтобы иметь национальные и глобальные стратегии для демократий, чтобы победить в сфере ИИ.

Если мы этого не сделаем, мы будем смотреть в будущее, где нам будут навязаны другие ценности”.

Доктор Лан Сюэ (Lan Xue), который консультирует китайское правительство, сказал, что распознавание лиц может оказаться «чрезвычайно полезным» для идентификации людей на массовых собраниях, если произойдет «крупная авария».

«Китай действительно добился огромного прогресса в развитии технологий, — добавил д-р Сюэ. — США чувствуют, что это угроза… и они хотели начать эту холодную войну с технологиями».

Хотя Китай имеет «огромные различия» в своих ценностях и политике, его «видение мира — это не конвергенция, а сосуществование», сказала д-р Кэю Цзинь (Keyu Jin), адъюнкт-профессор Лондонской школы экономики.

«Китай не стремится экспортировать свои ценности», — добавила она.

Проект Maven

Доктор Шмидт стал советником Пентагона в 2016 году, сохранив за собой пост исполнительного председателя Alphabet, материнской компании Google.
В последующие годы Google заключила контракт с Пентагоном, позволив ему использовать некоторые из своих технологий распознавания изображений в рамках военного проекта.
Проект Maven использовал машинное обучение, чтобы различать людей и объекты в видео с дронов.
“Maven в то время был способом замены человеческих глаз автоматическим зрением для съемки дронов, которые использовались в различных арабских конфликтах, — сообщил доктор Шмидт. — Я рассматривал использование этой технологии как чистый позитив для национальной безопасности и хорошего партнерства для Google”.

‘Кровь на моих руках»

Но проект получил критику со стороны сотрудников Google, которые подали в отставку и подали петицию против.

“Корпорация Google не должна участвовать в бизнесе войны, — заявила инженер-программист Лора Нолан (Laura Nolan), которая ушла в отставку в 2018 году, когда узнала о характере проекта, над которым работала Google. — Мне показалось, что у меня на руках кровь”.

Она утверждала, что эта технология может быть использована в будущих решениях о таргетировании.

Но Google заявила, что ее ИИ будет использоваться только в ненападающих целях, прежде чем полностью выйти из проекта Maven в июне 2018 года.

Доктор Шмидт сказал, что считает технологию, которая может помочь военным принимать правильные решения, «хорошей вещью.»

Гонка вооружений ИИ

Но Министерство обороны продолжает искать партнеров в Кремниевой долине, стремясь выиграть глобальную гонку вооружений ИИ.
Сет Моултон (Seth Moulton), председатель целевой группы «Будущее обороны США», призывает технологические компании поддержать Министерство обороны.
“Потому что мы участвуем в гонке, потому что мы участвуем в этом соревновании, вот к чему все сводится, — уверен он. — Ты собираешься помочь нам выиграть эту гонку или, по сути, будешь против нас? В Китае нет такой системы правления, как у нас. Может ли гонка вооружений ИИ привести к конфликту с Китаем? Абсолютно”.
Д — р Сюэ согласился с тем, что существует потенциал для конфликта: «Но это не неизбежно — США и Китай должны сотрудничать, чтобы предотвратить это».

Источник: https://www.bbc.com/news/technology-57122120