Възходът на техноавторитаризма
Facebook (сега Meta) се превърна в аватар на всичко, което не е наред със Силиконовата долина. Неговата егоистична роля в разпространението на глобална дезинформация е продължаваща криза. Припомнете си и тайния експеримент на компанията за манипулиране на настроението през 2012 г., който умишлено се занимава с това, което потребителите виждат в техния News Feed, за да измери как Facebook може да повлияе на емоционалното състояние на хората без тяхно знание. Или участието му в подбуждането на геноцид в Мианмар през 2017 г. Или използването му като клуб за планиране и изпълнение на въстанието на 6 януари 2021 г. (В ранните дни на Facebook Зукърбърг изброи „революции“ сред своите интереси. Това беше горе-долу по времето, когато имаше визитна картичка, отпечатана с аз съм главен изпълнителен директор, кучко.)
И все пак, в голяма степен, начинът на Facebook за правене на бизнес остава норма за технологичната индустрия като цяло, дори когато други социални платформи (TikTok) и технологични разработки (изкуствен интелект) засенчват Facebook по културно значение.
Новите технократи твърдят, че приемат ценностите на Просвещението, но всъщност водят антидемократично, нелиберално движение. За да се прекланяте пред олтара от мега мащаб и да се убедите, че вие трябва да сте този, който взема световноисторически решения от името на глобално гражданство, което не ви е избрало и може да не споделя вашите ценности или липсата на такива, трябва да се откажете от множество неудобства – смирение и нюанси сред тях. Много титани от Силиконовата долина са правили тези компромиси многократно. YouTube (собственост на Google), Instagram (собственост на Meta) и Twitter (който Илон Мъск настоява да нарича X) са били толкова вредни за индивидуалните права, гражданското общество и глобалната демокрация, колкото Facebook беше и е. Имайки предвид начина, по който изкуственият интелект( ИИ) сега се развива в Силиконовата долина, трябва да се подготвим тези щети да се умножат многократно през идните години.
Поведението на тези компании и хората, които ги управляват, често е лицемерно, алчно и обсебено от статута. Но в основата на тези подкупи стои нещо по-опасно, ясна и последователна идеология, която рядко се нарича за това, което е: авторитарна технокрация. Тъй като най-мощните компании в Силиконовата долина са узрели, тази идеология става все по-силна, по-самоправедна, по-заблуждаваща и – в лицето на нарастващата критика – по-ощетена. Новите технократи са показни в използването на език, който апелира към ценностите на Просвещението – разум, прогрес, свобода – но всъщност те водят антидемократично, нелиберално движение.
Много от тях изповядват безусловна подкрепа за свободата на словото, но са отмъстителни към онези, които говорят неща, които не ги ласкаят. Те са склонни да поддържат ексцентрични вярвания: че технологичният прогрес от всякакъв вид е безалтернативен и по своята същност добър; че винаги трябва да го изграждате, просто защото можете; безпроблемният информационен поток е най-високата стойност, независимо от качеството на информацията; че поверителността е архаично понятие; че трябва да приветстваме деня, когато машинният интелект надмине нашия собствен.
И преди всичко, че тяхната власт трябва да бъде неограничена. Системите, които те са изградили или изграждат – за пренасочване на комуникациите, преработване на човешките социални мрежи, внедряване на изкуствен интелект в ежедневния живот и други – налагат тези вярвания на населението, което не е нито консултирано, нито в общия случай, смислено информирано. Искат да увековечат абсурдния мит, че те са измамните аутсайдери.
Шекспировата драма, която се разигра в края на миналата година в OpenAI, подчертава степента, в която най-лошото от манталитета на Facebook „движи се бързо и разбивай нещата“ е интернализирано и празнувано в Силиконовата долина. OpenAI е основана през 2015 г. като организация с нестопанска цел, посветена на въвеждането на изкуствен общ интелект в света по начин, който ще служи на общественото благо. В основата на неговото формиране стоеше убеждението, че технологията е твърде мощна и твърде опасна, за да бъде разработена само с търговски мотиви. Но през 2019 г., когато технологията започна да стряска дори хората, които работеха по нея със скоростта, с която се развиваше, компанията добави част с печалба, за да набере повече капитал.
Първоначално Microsoft инвестира 1 милиард долара, а след това още много милиарди долари. Но отговорът на Microsoft – предложение да привлече Алтман и всеки друг от OpenAI, за да пресъздадат неговия екип там – започна недостойна игра, която доведе до възстановяването на Алтман. Целият инцидент беше объркан и Алтман може би е правилният човек за работата, но посланието беше ясно: стремежът към мащаб и печалба надделя решително над опасенията за безопасността и публичната отчетност.Силиконовата долина все още привлича много изключително талантливи хора, които се стремят да правят добро и които работят за реализирането на възможно най-добрата версия на по-свързано, богато на данни глобално общество.
Дори най-вредните компании са създали някои прекрасни инструменти. Но тези инструменти, в мащаб, също са системи за манипулация и контрол. Те обещават общност, но сеят разделение; твърдят, че защитават истината, но разпространяват лъжи; обвиват се в концепции като овластяване и свобода, но ни наблюдават безмилостно. Ценностите, които печелят, обикновено са тези, които ни лишават от избор и ни държат пристрастени към нашите емисии. Силиконовата долина, под влиянието на най-лошите си технократски импулси, следва монополизиране на социалната мрежа. OpenAI, Microsoft, Google и други корпорации, водещи в развитието на ИИ, не се фокусират върху областите с най-голяма обществена или епистемологична нужда и със сигурност не работят с някаква степен на прозрачност или предпазливост.
Вместо това те участват в надпревара за по-бързо изграждане и увеличаване на свръхпечалби. Нищо от това не се случва без основната технократска философия за неизбежността – тоест идеята, че ако можете да изградите нещо ново, трябва да го направите. В резултат технокрацията процъфтява за първи път като политическа идеология след Първата световна война, сред малка група учени и инженери в Ню Йорк, които искаха нова социална структура, която да замени представителната демокрация, поставяйки управлението на технократския елит. Въпреки че тяхното движение се провали политически – хората в крайна сметка харесаха повече Новия курс на президента Франклин Д. Рузвелт – то имаше по-голям успех в интелектуално отношение, навлизайки в духа на времето заедно с модернизма в изкуството и литературата, които споделяха някои от неговите ценности.
Модернистичният лозунг на американския поет Езра Паунд „Make it new“ лесно би могъл да стане мантра за технократите. Паралелно движение беше това на италианските футуристи, водени от фигури като поета Ф. Т. Маринети, които използваха максими като „Създаване, а не съзерцание“. Етосът както за технократите, така и за футуристите беше действие заради самото себе си.
„Не сме доволни да бродим в градина, затворена от тъмни кипариси, наведени над руини и обрасли с мъх антики“, каза Маринети в реч от 1929 г. и призова за „експлозия на динамичните и агресивни условия, в която скоро ще навлезем, за да покажем колко струваме.“ Изтъкнати футуристи превърнаха в основна страстта към технологията, действието и скоростта и в крайна сметка го трансформираха във фашизъм. Маринети последва своя Манифест на футуризма (1909) със своя Фашистки манифест (1919). Неговият приятел Паунд беше увлечен от Бенито Мусолини и сътрудничи на режима му, за да бъде домакин на радиошоу, в което поетът насърчаваше фашизма, цитираше Mein Kampf и възхваляваше както Мусолини, така и Адолф Хитлер.
Технократът Марк Андреесен пише, че няма „материални проблеми“, включително тези, причинени от технологиите, които „не могат да бъдат решени с повече технологии“. Той пише, че технологията не просто трябва винаги да напредва, но винаги да се ускорява в напредъка си, „за да се гарантира, че възходящата спирала на техно-капитала продължава вечно“. И критикува това, което нарича кампании срещу технологиите, под имена като „технологична етика“ и „екзистенциален риск“.
Нашите деца не са масиви от данни, които чакат да бъдат количествено определени, проследени и продадени. Нашата интелектуална продукция не е просто ръководство за обучение на AI, което ще бъде използвано, за да ни имитира и плагиатства. Животът ни не е предназначен да бъде оптимизиран чрез екран, а да бъде изживян – в катеренето по дървета, нощно плуване и всякакви приключения. Всички ние сме по-добри версии на себе си, когато не туитваме, не натискаме „Харесва ми“ или не скролваме, скролваме, скролваме.
Технократите са прави, че технологията е ключ към това да направим света по-добър. Но първо трябва да опишем света такъв, какъвто искаме да бъде – проблемите, които искаме да разрешим в обществен интерес и в съответствие с ценностите и правата, които насърчават човешкото достойнство, равенството, свободата, личния живот, здравето и щастието. И трябва да настояваме лидерите на институциите, които ни представляват – големи и малки – да използват технологиите по начини, които отразяват това, което е добро за индивидите и обществото, а не само това, което обогатява технократите.
Не е нужно да живеем в света, който новите технократи проектират за нас. Не е нужно да се съгласяваме с техния нарастващ проект за дехуманизация и извличане на данни. Край на „изградете го, защото можем“. Край на алгоритмите. Няма повече инфраструктура, предназначена да направи хората по-малко могъщи и могъщите по-контролиращи. Всеки ден гласуваме с нашето внимание; това е ценно и отчаяно желано от онези, които ще го използват срещу нас за свои собствени печалби и политически цели. Не им позволявайте.
със значителни съкращения
източник: The Rise of Technoauthoritarism, The Atlantic
