Глеб Кузнецов
Завърших четенето на поредния американски мегадоклад за „универсален ИИ“ (AGI) с всички присъщи му характеристики: решение на всички проблеми на цивилизацията – от рак до глад, трилиони инвестиции, „ще бъде готов в рамките на две години“ и „ако китайците го достигнат първи, трябва да ги ударим с ядрена бомба“. И си помислих, че AGI е пълен аналог на комунизма в средата на миналия век. Обещава радикална трансформация на човечеството чрез достигане на финалното състояние на изобилие и окончателна справедливост.
„Общество, в което всеки може да се занимава с каквото поиска: да лови риба сутрин, да пасе добитък вечер, да критикува след вечеря“. Комунизмът трябваше да премахне дефицита чрез технически прогрес и рационално планиране, освобождавайки човека от унижението на труда за препитание. Колективният Алтман обещава свят, в който AGI върши цялата интелектуална работа, освобождавайки хората за творчество и самореализация.
Технологията като освободител на човечеството от фундаментални ограничения – материални в случая на комунизма, когнитивни в случая на AGI.
Комунисти:
-
Петилетни планове: мобилизация на всички ресурси за постигане на „историческа цел“
-
Жертви за бъдещето: „Текущото поколение може да не доживее, но децата му ще живеят при комунизма“
-
Централизация на властта: „Само ние знаем пътя към светлото бъдеще“
Бигтех:
-
Жертви за прогреса: „Текущите съкращения са цената на технологичната революция“, но „райският град“ идва. Буквално „той ще настъпи утре, просто трябва да изчакаме“ и в този контекст се пренебрегва развитието на социални услуги като образование и здравеопазване. Защо, щом скоро всичко ще се „реши“ в най-добрия вид?
-
Концентрация на власт в бигтеха: „Само ние можем да създадем AGI“
-
Дискредитация на скептиците: „Лудитите не разбират експоненциалния прогрес“
Ленин на събранието: „Ние не знаем какво е комунизмът“. Тази неопределеност не беше бъг, а функция – всеки проектираше своите мечти върху недостижима цел. Определението за AGI остава разтегливо. Всеки път, когато AI достига нов рубеж (шах, Go, езикови модели), стандартът за „общ интелект“ се измества. Тази неопределеност поддържа вярата и инвестициите.
Функцията на „култа на неопределеността“? Ясните цели могат да се измерят и оценят. Размити утопии – вечен източник на мотивация за масите и легитимност за системите.
След колективизацията връщането към частна собственост става „идеологически невъзможно“. Системата създава собствена инерция, правейки алтернативите немислими. След трилиони инвестиции в AGI-подхода алтернативни стратегии (а те: а) съществуват, б) различни, в) вече готови да носят полза) изглеждат „остарели“ и „непрогресивни“. „Капанът на неизвратимите разходи“ не е по-малко силен от колективизацията.
Елитът, чиято власт и статус зависят от вярата в утопична цел, става нейн главен защитник.
Както идеолозите на комунизма, техноолигарсите са искрени и последователни врагове на всяка конкуренция, защото тя „пречи на концентрацията на ресурси в името на великата цел“.
В геополитиката – нова студена война, на мястото на СССР – Китай. „Кой ще достигне AGI първи?“ Полупроводникова война, инвестиционна надпревара, износни ограничения – състезание за лидерство в AGI. И състезание за недостижима цел може да доведе – ако някой мигне погрешно – до реална ядрена война.
Какво човечеството може да научи от „построяването на комунизъм за това поколение“?
1️⃣ Утопичните цели могат да мобилизират огромни ресурси, но често неефективно
2️⃣ Неопределеността на целите е източник на власт за тези, които ги тълкуват
3️⃣ Показателните постижения не компенсират системните проблеми
4️⃣ Алтернативите, обявени за „остарели“, могат да се окажат по-ефективни
5️⃣ Елитите са склонни да „повярват“ в системи, които им осигуряват власт
Както комунизмът, AGI съчетава рационални елементи (автоматизация, която може да подобри живота), утопични фантазии (технологията ще реши всички проблеми) и механизми на власт (кой контролира пътя към AGI, контролира бъдещето).
Както при комунизма, най-опасните утопии не са тези, които са напълно лъжливи, а тези, които съдържат достатъчно истина, за да привлекат умни хора и да мобилизират огромни ресурси за неизпълнима цел.
Източник: телеграм канала на Глеб Кузнецов.
