Вот, наконец, сбываются мечты “настоящих программистов” — AI роняет работающую систему. Помните сбои AWS в декабре?

По данным Financial Times, в декабре Kiro (собственный AI-агент AWS) предложил радикальный путь «удалить и пересоздать окружение», а программисты компании дали разрешение без обычного второго согласования.

Позиция Amazon, что это «user error, not AI error», выглядит логичной, но неполной. В действительности это скорее архитектурная проблема, если система позволяет юзеру (человеку) выдать кому-то права на такие действия в production-окружении. Но винить, разумеется, будут AI, который предлагает то, чему он научился на анализе действий людей. Как будто ни один сениор “инженер” не предлагает ровно то же при малейших проблемах…