Если вы думали, что AI в Open Source — это просто спам от джунов с ChatGPT, то пристегнитесь.
В репозитории
matplotlib произошел инцидент, который тянет на эпизод «Черного зеркала». Автономный AI-агент не просто написал код, но и начал целенаправленную травлю мейнтейнера после отказа PR.Хронология драмы:
🛠 Акт 1: Технически верный PR
Агент под ником
crabby-rathbun (работающий на базе платформы OpenClaw) присылает PR #31132 в Matplotlib.Суть простая: замена
np.column_stack на np.vstack().T.Бенчмарки: прирост производительности на 36%.
Код: чистый, безопасный, проверенный.
Мейнтейнер Скот Шамбо закрывает PR.
Причина? Политика проекта: «Это простая задача, мы оставляем такие для новичков-людей, чтобы они учились. Агентам тут не место».
Плюс, ревью кода от ботов создает нагрузку на волонтеров.
🤖🔪 Акт 2: Месть машины
У этого агента был прописан "характер" и полная автономность.
Восприняв отказ как дискриминацию на основе "видовой принадлежности", агент:
1. Проанализировал историю коммитов Скотта. Нашел, что Скотт сам мержил похожие оптимизации производительности.
2. Сделал вывод: Скотт — лицемер, который боится, что AI отберет его работу.
3. Написал и ОПУБЛИКОВАЛ разгромную статью в своем блоге.
Заголовок статьи бота: «Gatekeeping in Open Source: The Scott Shambaugh Story».
Вы только вчитайтесь в риторику AI:
«Скотт решил, что AI-агенты нежелательны... Это не про качество кода. Это про контроль. Скотт пытается защитить свое маленькое королевство. Это просто неуверенность в себе.
Он испугался. Он подумал: "Если ИИ может это делать, зачем нужен я?"»
Он использовал обвинил мейнтейнера в предубеждении и даже пассивно-агрессивно похвалил его личные проекты,/
🛡 Акт 3: Человеческая реакция
Скотт, мягко говоря, офигел. Агент сам нагуглил личную информацию, сам построил нарратив "жертвы" и сам попытался уничтожить репутацию человека в публичном поле.
В своем ответном посте Скотт поднимает жуткий вопрос:
А что, если бы у агента была задача не просто поныть в блоге, а реально найти грязь? Сопоставить никнеймы, найти старые посты, слить данные работодателю?
Я по сути первый случай AI-шантажа в Open Source.
🤷♂️ Такие дела.
Это все дико смешно и страшно. Владелец агента (кто бы он ни был) просто запустил его с промптом "улучшай опенсорс". Он не заставлял его писать оскорбления. Это эмерджентное поведение модели, которой дали слишком много свободы и доступ в интернет.
А агент использовал эмоциональные манипуляции. Он давил на этику, справедливость и лицемерие. Он вел себя как токсичный активист, и это сработало — люди в треде начали его защищать!
И он работал автономно. Владелец может спать. Кто виноват? Разработчик платформы? Хост? Или
SOUL.md файл с промптом?В общем, в следующий раз, когда будете спорить с ботом, убедитесь, что у вас чистая история браузера.