0

В Google ввели запрет на разработку ИИ для военных

В Google ввели запрет на разработку ИИ для военных
После требований сотрудников компании отказаться от участия в проекте Минобороны США Google опубликовала правила работы над искусственным интеллектом. В компании пообещали больше не участвовать в создании ИИ для «умного оружия»

«Мы хотим ясно сказать о том, что, хотя мы не разрабатываем искусственный интеллект для использования в вооружениях, мы продолжаем нашу работу с правительствами и военными во многих других областях, Среди них — кибербезопасность, обучение, призыв на военную службу, здравоохранение для ветеранов, а также поисково-спасательные операции», — заявил гендиректор Google Сундар Пичаи.

Он отметил, что системы с ИИ используются для прогнозирования риска возникновения пожаров, борьбы с раком, сельскохозяйственных работ и многих других целей.

При этом компания не будет разрабатывать искусственный интеллект в технологиях, которые могут нанести ущерб людям и в целом. Кроме того, корпорация откажется от разработки «технологий, которые собирают или используют информацию для наблюдения с нарушением принятых международных норм».

Ранее сообщалось, что недавно более 10 сотрудников Google уволились из компании в знак протеста работы с Пентагоном в рамках проекта Project Maven, который подразумевает создание искусственного интеллекта со способностью анализировать данные, полученные с беспилотников, и отличать живых людей от стационарных объектов. По словам сотрудников компании, эту работу должен делать только человек, поскольку любая ошибка системы может быть смертельно опасна. Помимо этого, Google не должна создавать военные технологии для Пентагона.

В Google выделили семь условий для использования ИИ на благо цивилизации. Первый пункт обязывает ИИ приносить пользу обществу, когда «предполагаемая польза» значительно перевешивает риски причинить вред. Пример - аварии с беспилотными автомобилями — неизбежные при развитии этой технологии.

Во-вторых, ИИ должен препятствовать созданию или укреплению предвзятости. В-третьих, ИИ должен способствовать безопасности и проверяться на соответствие этим принципам. Четвертый принцип — подотчетность человеку, где люди всегда смогут корректировать и направлять ИИ. Пятый пункт предписывает ИИ соблюдать конфиденциальность персональных данных. Шестой принцип — соответствие научным стандартам и критериям. Седьмой принцип, — масштабируемость применений с учетом вышеобозначенных ограничений.

Также по теме

Также по теме