Бывший инженер Google, работавший над печально известным военным проектом компании по производству военных беспилотников, выступила с предупреждением относительно создания боевых роботов.
Бывший инженер Google Лора Нолан, заявила, что международное сообщество должно запретить роботам-убийцам вести военные действия. По мнению уволившейся сотрудницы корпорации, без надлежащего контроля полностью автономное оружие может устроить «массовые зверства».
Лора Нолан проработала в Google четыре года, после чего в 2017 году ее приняли на работу в проект, известный как Project Maven, сообщает Guardian. Целью инициативы было усовершенствование дронов с помощью искусственного интеллекта.
Нейросеть должна была распознавать на видео вражеские цели, а также отличать людей от других объектов. Из-за массовых протестов сотрудников корпорация закрыла проект. Нолан подала в отставку по этическим соображениям.
Google заморозила Project Maven после того, как тысячи сотрудников подписали петицию против проекта и около десятка уволились в знак протеста. «Если мы не будем осторожны с этими видами вооружений, роботы-убийцы могут внезапно развязать войну, уничтожить атомную электростанцию и устроить массовые зверства», — заявила Лора Нолан.
Бывший инженер Google опасается, что следующим шагом после создания дрона с использованием ИИ может стать полностью автономное оружие. По её мнению, у машин нет здравого смысла, в отличие от людей. Также Нолан предположила, что Россия уже проводит такие испытания.
«Хотя я и не принимала непосредственного участия в разработке системы распознавания видео, я осознавала, что являюсь частью преступной цепочки. В конечном итоге это приведёт к тому, что американские военные убьют ещё больше людей в таких местах, как Афганистан», — объяснила свой поступок Нолан.
Использование искусственного интеллекта, позволяющего боевым системам самостоятельно выбирать и атаковать цели, вызвало в последние годы этические споры. Критики предупредили, что это поставит под угрозу международную безопасность и ознаменует собой третью революцию в войне после пороха и атомной бомбы.
К тому же рано или поздно автономные боевые системы попадут в руки террористов, которые смогут их с легкостью перепрограммировать на уничтожение других целей.
Нидерландская неправительственная организация Pax классифицировала 50 компаний по трем критериям: разрабатывают ли они технологии, которые могут иметь отношение к смертоносному ИИ, работают ли они над соответствующими военными проектами и взяли ли на себя обязательство воздерживаться от участия в них в будущем.
В общей сложности 22 компании относились к категории "средней степени обеспокоенности", а 21 - к категории "высокой обеспокоенности", в частности Amazon и Microsoft, которые участвуют в тендере на поставку облачной инфраструктуры для армии США на сумму $10 млрд по контракту Пентагона.
К числу других компаний, входящих в группу высокого риска, относится компания Palantir, основанная при поддержке ЦРУ и получившая контракт на $800 млн на разработку системы искусственного интеллекта, "которая может помочь солдатам анализировать зону боевых действий в режиме реального времени".
В отчете отмечается, что сотрудники Microsoft выразили свое несогласие с контрактом на поставку армии США гарнитуры дополненной реальности HoloLens, целью внедрения которой является "увеличение смертности" на поле боя. По словам экспертов, все, что в настоящее время является оружием, планируется сделать автономным и дистанционно управляемым, будь то танки или истребители.
Особый интерес представляют беспилотные подводные аппараты, ведь в океане радиоволны быстро затухают. Калифорнийская фирма Ocean Airo уже разработала устройство Submaran, которое может неделями или даже месяцами находиться под водой и всплывать для того, чтобы пополнить запасы энергии с помощью ветра и солнечных лучей.
В 2050 г. на полях сражений будет больше роботов, чем людей, пишет Die Welt. Такой прогноз сделала Научно-исследовательская лаборатория армии США. Автономные боевые машины будут использоваться повсеместно. Они не будет знать усталости и страха, а также станут "умными" и более-менее самостоятельными в принятии решений, рассказывает автор статьи Кристиан Бук.
Все больше государств увеличивают инвестирование в сферу производства высокотехнологичных роботов-убийц. В 30 странах уже есть летающие беспилотные устройства, способные нести вооружение. Еще большее число государств имеют системы ПРО, которые реагируют на угрозу так быстро, что не требуют человеческого вмешательства.
Используя технологию распознавания лиц, дроны могут уничтожить какую-то этническую группу или с помощью информации в социальных сетях можно найти всех людей, придерживающихся определенной политической позиции.
В апреле Европейский союз опубликовал руководство о том, как компании и правительства должны разрабатывать ИИ, в том числе о необходимости человеческого контроля, недискриминационной работы в интересах общества и окружающей среды и соблюдения конфиденциальности. Все участники дискуссии опасаются, что дальнейшие разработки в этой сфере могут спровоцировать новую гонку вооружений. Эксперты убеждены, что машине нельзя доверять решение, будет ли человек жить или умрет.
