Прогресс в области технологий и увеличение объема частных инвестиций в стартапы ИИ-компаний неуклонно ускоряется, согласно индексу AI 2021 года, ежегодному исследованию влияния ИИ и прогресса, разработанному междисциплинарной командой Стэнфордского института искусственного интеллекта, ориентированного на человека. Действительно, искусственный интеллект внедряется практически везде. В последние недели появились истории о том, как ИИ используется для мониторинга эмоционального состояния коров и свиней, уклонения от космического мусора на орбите, обучения американскому языку жестов, ускорения сборочных линий, победы в элитных турнирах по кроссвордам, оказания помощи поварам с гамбургерами и “гиперавтоматизации». Скоро людям не останется дел, кроме как писать длинные статьи, — до тех пор, пока их тоже не заменит ИИ. Механизм генерации текста GPT-3 от OpenAI потенциально революционен в этом отношении, и New Yorker утверждает: “В какой бы области вы ни находились, если она связана с печатным словом, она скоро будет преобразована”.
Искусственный интеллект шагает вперед, и его чудеса становятся все более очевидными и применяемыми. Но исход мира, ориентированного на искусственный интеллект, подлежит обсуждению. Хотя эта дискуссия продолжается, в настоящее время она сосредоточена главным образом на конфиденциальности данных и на том, как предвзятость может негативно повлиять на различные социальные группы. Еще одна, потенциально более серьезная, проблема заключается в том, что мы становимся опасно зависимыми от наших интеллектуальных устройств и приложений. Такая уверенность может привести к тому, что мы станем менее любознательными и более доверчивыми к информации, которую нам предоставляют как точную и авторитетную.
Или, как в мультипликационном фильме WALL-E, мы будем приклеены к экранам, отвлечены бессмысленными развлечениями, буквально и фигурально накормлены пустыми калориями, не пошевелив и пальцем, в то время как автоматизированная экономика живет без нас. В этом все более правдоподобном сценарии ближайшего будущего люди будут двигаться по жизни на автопилоте, как и наши автомобили. Или, возможно, мы уже начали это движение.
Люди на космическом корабле «Аксиома», Pixar-E; Источник
Добро пожаловать в Человечество 2.0
Если использование смартфона — первая ласточка, то есть повод для беспокойства. Николас Карр (Nicolas Carr) писал в The Wall Street Journal об исследованиях, предполагающих, что наш интеллект ослабевает по мере того, как наш мозг становится зависимым от телефонных технологий. Скорее всего, то же самое можно сказать и о любой информационной технологии, где контент течет по нашему пути без необходимости работать над тем, чтобы учиться или открывать что-то самостоятельно. Если это так, то приложения искусственного интеллекта, которые все чаще представляют контент, адаптированный к нашим конкретным интересам, могут создать самоподкрепляющий синдром, который не только запирает нас в наших информационных пузырях посредством алгоритмического редактирования, но также ослабляет нашу способность к критическому мышлению, кормя нас с ложечки тем, во что мы уже верим.
Тристан Грин (Tristan Green) утверждает, что люди уже являются киборгами, гибридами человека и машины, которые сильно зависят от информации, поступающей из Интернета. Во время уик-энда без доступа к этой постоянной связи: “Я обнаружил, что мне трудно думать. К вечеру воскресенья я понял, что использую почти мгновенную связь с Интернетом, чтобы почти постоянно увеличивать свои умственные способности. …Я не знал, насколько я полагаюсь на Интернет, работающий на ИИ, как на средство повышения производительности”. Возможно, именно поэтому Илон Маск верит: нам нужно будет дополнить наш мозг мгновенным доступом к Интернету, чтобы люди могли эффективно конкурировать с ИИ, и это было первоначальным обоснованием его компании Neuralink brain-machine interface.
Революция ИИ может быть другой
Я читал много аналитиков от экспертов ИИ, утверждающих, что ИИ ничем не будет отличаться от других технологических инноваций, таких как переход от лошадиной экономики к автомобильной. Обычно эти аргументы приводятся в контексте влияния ИИ на рабочие места и делается вывод о том, что в краткосрочной перспективе произойдет социальное смещение для некоторого, но долгосрочного роста для коллективного целого. Думается, что новые отрасли породят новые рабочие места, а податливые люди адаптируются.
Но есть фундаментальное различие с революцией ИИ. В предыдущих случаях речь шла о замене грубой силы трудосберегающей автоматизацией. ИИ отличается тем, что он отдает на аутсорсинг не только физический труд , но и познание, то есть мышление и принятие решений. Шон Николс (Shaun Nichols), профессор философской школы Sage в Корнельском университете, сказал в недавней панельной дискуссии по ИИ: “Мы уже передаем этически важные решения на аутсорсинг алгоритмам. Мы используем их для пересадки почек, управления воздушным движением, а также для определения того, кто лечится первым в отделениях неотложной помощи”. Как заявил Всемирный экономический форум, мы постепенно подчиняемся решениям с помощью — или даже под руководством — систем ИИ.
Мы теряем наше могущество?
Алгоритмы теперь формируют наши мысли и все чаще принимают решения от нашего имени. Сознательно или нет, но ИИ делает для нас так много, что некоторые называют его “революцией интеллекта”, что заставляет задаться вопросом, стали ли мы уже фактическими киборгами, и если да, то есть ли у нас еще свобода воли? Свобода воли — это способность человека мыслить самостоятельно и действовать так, чтобы формировать свой опыт и жизненные траектории. Тем не менее алгоритмы, управляющие поисковыми и социальными медиа-платформами, книгами и фильмами рекомендации, регулярно формируют то, что читают и видят миллиарды людей. Если бы это было тщательно продумано для нашего улучшения, это могло бы быть хорошо. Но, как утверждает кинорежиссер Мартин Скорсезе, их цель — только увеличить потребление.
Похоже, мы уже передали принятие решений на аутсорсинг алгоритмам, предназначенным для повышения корпоративного благосостояния. Это не может быть откровенно злонамеренным, но это вряд ли доброкачественно. Наши мысли формируются либо нашими существующими убеждениями, которые подкрепляются алгоритмами, выводящими наши интересы, либо преднамеренными или непреднамеренными предубеждениями со стороны различных информационных платформ. Это означает, что наша способность к критическому мышлению одновременно ограничена и сформирована теми самыми системами, которые призваны помогать и, как мы надеемся, стимулировать наше мышление. Мы входим в рекурсивный цикл, где мышление сливается во все более тесные группировки — часто обсуждаемые поляризация — это уменьшение изменчивости и, следовательно, разнообразия мнений.
Это похоже на то, как если бы мы были субъектами грандиозного социологического эксперимента, в котором результирующие кластеры человеческих мнений определяются входными данными ИИ и выходными данными, распознаваемыми машинным обучением. Это качественно отличается от увеличения интеллекта и вместо этого усиливает слияние людей и машин, которое создает конечное групповое мышление.
Никогда не было легко решать большие социальные проблемы, но они станут еще более сложными, если человечество продолжит путь аутсорсинга своего мышления алгоритмам, которые не отвечают нашим коллективным интересам. Все это вызывает вопрос: контролируем ли мы технологию искусственного интеллекта, или уже она нас контролирует?
Автор статьи: Гэри Гроссман (Gary Grossman), старший вице-президент по технологическим практикам компании Edelman и глобальный руководитель Центра передового опыта Edelman AI Center of Excellence
Источник: https://venturebeat.com/2021/05/08/ai-is-turning-us-into-de-facto-cyborgs/