Anthropic отказывается от военных заказов
Дарио Амодей, руководитель компании Anthropic, вчера сделал громкое заявление: его компания не собирается выполнять запросы Пентагона, которые требуют предоставить военным неограниченный доступ к их передовым ИИ-системам. Это решение стало известно перед установленным сроком, и, похоже, вызвало немало обсуждений.
Этические причины отказа
Амодей отметил, что не может «по совести согласиться» с такими условиями. Главный мотив его отказа — это этические вопросы, касающиеся использования ИИ в военных целях. Без каких-либо ограничений доступ к мощным моделям, таким как Claude, может привести к их бесконтрольному применению — например, в автономном оружии или для массового наблюдения. Это, в свою очередь, идет вразрез с ценностями, которые пропагандирует компания.
Напряжение между разработчиками и армией
Позиция Anthropic подчеркивает нарастающее противостояние между желанием государственных структур использовать высокие технологии и этическими нормами, которые разработчики ИИ стремятся установить. Это далеко не первый случай, когда крупные компании в сфере искусственного интеллекта выражают опасения по поводу своей милитаризации. Интересно, что на фоне таких заявлений, всё больше специалистов призывают к более строгому контролю за использованием ИИ в военных целях.
