Google обязалась не использовать свой ИИ в оружии

Корпорация Google, многие сотрудники которой в последние месяцы выступали резко против сотрудничества с военными, пообещала не позволять использовать свои технологии искусственного интеллекта "во вред". Правда, полностью прекращать взаимодействие с Пентагоном не станут — отказ от правительственных контрактов навредит бизнесу.

Новые принципы работы в области искусственного интеллекта изложил в официальном блоге компании генеральный директор Сундар Пичаи. Они станут своего рода хартией, содержащей "четкие стандарты" того, как Google ведет исследования в области ИИ, применяет свои программные продукты в этой области и избегает определенных сфер деятельности.

"То, как разрабатывают и применяют искусственный интеллект, окажет значительное влияние на общество в обозримом будущем, — пишет Пичаи. — Как лидер в области ИИ, мы чувствуем особую ответственность за то, чтобы все было сделано правильно".

В частности, Google обещает не применять ИИ в вооружениях и технологиях, которые "собирают или используют информацию для слежки" в нарушение общепринятых прав человека. Также в декларируемых компанией принципах содержится обещание избегать "несправедливости" в своих ИИ-алгоритмах, чтобы автоматическое принятие решений не дискриминировало кого-либо на основе расовой или гендерной принадлежности, либо политических взглядов.

На прошлой неделе Google объявила, что в будущем году не станет возобновлять партнерство с Пентагоном по проекту Maven, в котором ИИ компании используется для анализа видео с военных беспилотников — именно против этого проекта выступали сотрудники, некоторые даже увольнялись в знак протеста.

Пичаи отметил, что при компания продолжит сотрудничество с правительствами и оборонными ведомствами "во многих других областях". "Эти совместные проекты важны и мы будем активно искать новые способы улучшить критически важную работу этих организаций и обеспечить безопасность военнослужащих и гражданских лиц", — написал глава Google.

Некоторые критики, пишет Bloomberg, отмечают: выбранные Пичаи формулировки весьма расплывчаты и дают компании довольно широкое пространство для маневра в будущем. По словам сотрудников Google, которые предпочли сохранить анонимность, в компании заявление генерального директора восприняли в целом прохладно.