Что произойдет, когда правительству больше не понадобятся люди? По мере развития технологий мы можем оказаться в мире, где власть не будет оспариваться, а сопротивление станет практически невозможным.

Выскажите своё мнение! 🎯 «Бюрократы, использующие ИИ: конец сопротивления правительству?»» Деян Трпкович

22 февраля 2025 г. | Когда ИИ заменит государственных служащих, сопротивление неконституционным приказам исчезнет. Решения будут приниматься мгновенно, без колебаний, контроля или моральной оценки.

История показала, что неограниченная власть, какой бы эффективной она ни была, опасна. А теперь, с развитием управления на основе искусственного интеллекта, мы, возможно, вступаем в мир, где исполнительная власть будет безграничной и неоспоримой.

Китайская система слежки на основе искусственного интеллекта уже отслеживает и контролирует граждан в беспрецедентных масштабах. Представьте себе такой уровень контроля, внедренный в каждое государственное учреждение, без какого-либо человеческого контроля.

Демократические системы полагаются на государственных служащих – реальных людей, – которые могут сопоставлять приказы с конституционными принципами, замедлять процесс, когда что-то кажется неправильным, или даже сообщать о нарушениях, когда это необходимо. Искусственный интеллект этого не делает. Он просто выполняет приказы.

Представьте себе исполнительную власть с миллионами бюрократов и исполнителей, управляемых искусственным интеллектом… без колебаний, без вопросов, без совести. Вместо неэффективной бюрократии, выступающей в качестве гарантии, мы получили бы идеальное подчинение в неограниченном масштабе. А история показала нам, что неограниченная власть, какой бы эффективной она ни была, опасна.

Самое страшное? Это не просто гипотетическая ситуация – это происходит прямо сейчас. Лидеры с радикальными программами уже говорили о замене кадровых государственных служащих автоматизацией на основе искусственного интеллекта. Переход не будет громким или драматичным; он будет происходить постепенно, под видом «эффективности» и «сокращения расходов». К тому времени, когда мы поймем, что потеряли, последний механизм сопротивления может уже исчезнуть.

Итак, вот главный вопрос: если искусственный интеллект сделает невозможным сопротивление чрезмерному вмешательству правительства, кто привлечет власть к ответственности?

Было бы интересно услышать ваши мысли; как предотвратить превращение эффективности в авторитарный контроль?

Деян Трпкович
Управляющий директор, PRODIREKT
Основатель Verbalists Education & Language Network