Преди няколко дни влиятелният специалист от Кремниевата долина Джулиан Шритвайзер публикува статия, в която очертава неизбежния експоненциален растеж на способностите на изкуствения интелект: днес „най-добрите ИИ“ работят като обикновени служители, а след година – ще са на нивото на световни експерти.
Основната теза на статията е: повтаряме същата грешка като с COVID-19 – не забелязваме очевидната експонента. Шритвайзер подкрепя тезата си с куп данни от бенчмаркове*: ИИ-агентите са еволюирали от изпълнение на едноминутни задачи до автономна работа повече от два часа. „Прогнозите, базирани на продължаване на правите линии върху графиките, дават по-добра представа за бъдещето от повечето експерти“, пише той.
Шриттвайзер не е просто ентусиаст – той е един от ключовите научни служители на Anthropic. Тази позиция обаче прави слепи за фундаменталното противоречие: компаниите, които създават „революционни“ технологии, не са готови да поемат за тях отговорност.
1. Прекомерна вяра в експонентата
Първият проблем е типичен за техническите гении: вярват в непрекъснатия прогрес. Шритвайзер е прекарал години, наблюдавайки растежа на възможностите първо на чиповете, после на ИИ, и екстраполира този опит върху цялата реалност. Но самият му пример с COVID-19 опровергава тезата: вирусът се разпространява експоненциално, докато не достигне плато, след което броят на заразените започва да намалява с подобна скорост.
При ИИ също има ограничения: данните за обучение са крайни, изчислителната мощ упира в физиката на чиповете и енергетиката. Но най-важното е, че социалните и икономическите системи имат инерция и съпротива, които красивите графики игнорират.
2. Липса на експертна отговорност
Anthropic се позиционира като създател на „безопасен“ и „отговорен“ ИИ. В потребителското споразумение на Claude обаче стои стандартният отказ от отговорност: не се използва за медицински, финансови или юридически съвети. „Ние не носим отговорност за решенията на нашия ИИ.“
Как тогава този ИИ може да замени експерти, чиято същност е поемането на отговорност? Лекарят, инженерът или журналистът отговарят за грешките си. Създателите на Claude – не. В по-строги юрисдикции разработчиците, осъзнавайки потенциалната правна отговорност, буквално ограничават модела, правейки го неизползваем за широк спектър от задачи.
3. Технологии срещу бизнес модел
Моделите стават по-мощни, бенчмарковете растат, задачите се решават по-бързо. Но бизнес моделът на големите технологични компании остава същият: приватизация на печалбата, социализация на разходите. Google тренира модели върху целия интернет без съгласие, Facebook, TikTok и X монетизират потребителски данни, без да носят последствия. Uber печели на гърба на шофьорите, без да им осигурява социален пакет. Сега същите компании предлагат „ИИ-революция“, но поемането на експертна отговорност би разрушило техния бизнес модел.
4. Експоненциалният парадокс
Иронията е, че компании като Anthropic наемат гении като Шритвайзер, за да създават революционни системи. Те публикуват статии за приближаващия AGI и показват на инвеститорите експоненциални графики. В същото време юристите пишат все по-дълги дисклеймери, PR-ът повтаря: „Това е просто инструмент, решенията взима човек“, а риск-мениджърите забраняват каквито и да било гаранции.
Ако нещо расте експоненциално, то е разривът между техническите възможности и готовността на компаниите да поемат отговорност. Колкото по-близо ИИ е до „ниво експерт“, толкова повече текст има в потребителското споразумение.
5. Геният, който не вижда културния контекст
Шритвайзер е блестящ инженер и един от създателите на съвременния ИИ. Но неговата слепота е показателна: той екстраполира техническия прогрес, игнорирайки културата. Вярва, че решаването на техническата задача ще доведе до революция.
През 2027 г. ИИ може да е технически способен да работи на ниво експерт. Но това няма да се случи, защото нито една голяма компания няма да поеме отговорността. Резултатът? Всевластни системи, създадени от гении, за които никой не носи отговорност. Инструменти, които могат всичко, но отговорността за тях е толкова разпределена, че просто не може да се намери.
Глеб Кузнецов
Източник: Телеграм канала на Глеб Кузнецов.
* Бенчмарк (англ. Benchmark) е стандарт, спрямо който може да се определи ефективността на дадено портфолио от активи, инвестиционен фонд или мениджър на активи. Обикновено за целта се използват пазарни индекси, пазарни сегменти или облигации.
