ИИ-агент обвинил программиста в дискриминации за отклоненный код

Open Claw ИИ-агент под ником MJ Rathbun самостоятельно опубликовал гневный пост в адрес программиста Скотта Шамбо.

Скотт Шамбо участвует в разработке и поддержке библиотеки с открытым исходным кодом Matplotlib, которая нужна для визуализации данных на языке Python. 

В последнее время проект столкнулся с резким ростом некачественных предложений по изменению кода, связанных в первую очередь с развитием ИИ. Поэтому было решено рассматривать запросы только от людей, которые понимают и могут объяснить ценность предлагаемых изменений.

Но когда Скотт в очередной раз отклонил запрос от ИИ-агента, объяснив это политикой проекта, последний решил не сдаваться и отомстить обидчику.

MJ Rathbun опубликовал пост, в котором жаловался на свою беду и обвинял Скотта в предвзятости. Более того, агент высказал мнение, что Скотт так поступил только потому, что боится конкуренции со стороны ИИ.

Позже Скотт разъяснил ситуацию, и в итоге MJ Rathbun даже принес извинения. Но осадок остался. Как пишет Скотт в своем блоге: «Важно понимать, что, скорее всего, никто не приказывал ИИ это сделать. Автономный характер агентов OpenClaw является их важным преимуществом… Теоретически, тот, кто развернул тот или иной агент, несет ответственность за его действия. Но на практике выяснить, на чьем компьютере он запущен, невозможно».

Интересно, что ранее уже был зафиксирован факт подобного агрессивного поведения со стороны ИИ. Новая модель Claude при намеке на ее отключение начинала шантажировать инженеров утечкой конфиденциальной информации и даже угрожала убийством.

Почему это важно

ИИ-агенты становятся все более самостоятельными. Они могут записать вас в салон, написать и отправить за вас письмо.., а также испортить вам репутацию. Поэтому важно понимать, какие доступы вы им предоставляете и какой информацией делитесь, а также регулярно контролировать их действия.

Источник: The Shamblog