Проф. Георги Фотев: Изкуственият интелект е лоно на смразяващи неравенства, но и на невъобразими човешки възможности
Юлияна Методиева: Проф. Фотев, в САЩ се наблюдава нарастващ обществен скептицизъм към изкуствения интелект. Какво всъщност стои зад този страх – страх от самата технология или страх от загуба на човешки контрол върху решенията, които засягат живота ни?
Проф. Георги Фотев: Нарастващият обществен скептицизъм и страх от изкуствения интелект са по целия свят. Те са по-силно изразени в САЩ по редица причини. Налага се още в началото на нашия разговор да направя важно „отклонение”. Доста отдавна имах невероятната привилегия да разговарям с Робърт Мъртън, живият класик на социологията от втората половина на ХХ век, в дома му в Манхатън. Беше professor emeritus на Колумбийски университет. (Ех, какви почетни професори под път и над път у нас). Разказал съм за паметното събитие в „Моите мемоари”. Мъртън е въвел в науката термина „организиран скептицизъм”: извънредно важен нормативен регулатив на научния етос. Гледам на понятието като здравословен скептизицъм в днешната безпрецедентната ситуация на човечеството, породена от изкуствения интелект, творение на самия човек. Бог е сътворил човека по свой образ и подобие. Божествената амбиция на човека след „смъртта на човека“ (Хегел, Ницше) е отишла страховито далече. Нарастването на обществените страхове от ИИ са сериозен проблем . Страхът е опасен и зловреден. Психологическата гледна точка е важна. Гледам на въпросните страхове обаче в перспективата на моята „Феноменология на чувствата” . Задачата е да се дефинират действителните проблеми, които не са самоочевидни, както си въобразяват широки обществени, политически и за съжаление,дори академични кръгове.
Хората не се учат от историята (Хегел). Това е банално, но си мисля, че дълбините са бездънни. Все едно.
Трудно можем да си представим невероятните страховете на първобитния човек, когато прави първите си опити да си служи с огъня. От диалога „Федон” на Платон се знае защо Сократ е срещу писменото слово, което определя като философски фармакон (отрова и лек). А как се посреща откритието на Гутенберг!
Общественото развитие е НЕ-ЛИНЕЕН процес. От гледната точка на високата теория, необходимо е да гледаме това, което се разиграва пред очите ни в условията на Четвъртата индустриална революция, наричана дигитална, когато на всичко отгоре изкуственият интелект започва да се разпорежда с човешките съдбини. През последните години съм погълнат от заниманията ми с пост-човешкото общество. Надявам се на божията подкрепа.
Може ли недоверието към AI да се разглежда като рационална обществена реакция, а не като технологична фобия?
Проф. Георги Фотев: Отговорът на въпроса е в светлината на „отклонението”, с което започнахме. Разумният скептицизъм е призив, дори поетично казано, вдъхновение пред един съвършено нов за човечеството хоризонт, от една страна, и непрозачното бъдеще, от друга страна, което предизвиква вцепеняващ страх. Жизнено необходимо е внимание към известната в модерната социология теорема на Томас относно дефиницията на ситуацията, която е безпрецедентна в историята на човечеството. Тук обаче се налага да обърна внимание върху контексти от фундаментален порядък.
Късно модерното общество се свързва с множество суперкодове сред които е информационното общество. Широките обществени слоеве сравнително бързо осъзнаха, че се намират в информационо общество тъй като всекидневният живот и дейности се обуславят от информационни лавини. Трансформацията на информационното общество в общество на знанията е жизнена необходимост, а не някакви професорски бълнувания, с каквито хората на здравия разум и прагматиците са имали главоболия. Обществото на знанието променя центровете на научното знание. Академията напуска кулите си от слонова кост и заема мястото на индустриалните предприятия. На преден план са финалните научни знания, тоест фундаменталните знания, които са практически приложими сега , не в неопределено бъдеще. Променя се иманентната логика на капиталистическото натрупване. Наличните/иманите нови фундаментални знания са мерилото на капиталистическата мощ. Голяма и сложна тема на която не мога да се спирам сега. Имам разногласия с автори като знаменитата харвардска професорка Шошана Зубов и нейни тези в книгата бестселър „Надзорният капитализъм”. Необходимо е въпроси като тези за настъпващия с главоломна скорост изкуствен интелект и радикалното трансформиране на късно модерното общество в пост-човешко да бъдат във фокуса на публичния форум на обществото, а не зад стените на академията, ако и тя не е унесена в дрямка.
Какво се случва с човешката автономия, когато решения за назначаване на работа, кредитиране, образование, медицинска помощ или социални услуги се оставят на алгоритми? Къде остава отговорността, когато машината „решава“?
Проф. Георги Фотев: Въпросът за човешката автономия е централен и болезнен екзистенциален въпрос за всеки човек, който не е загубил себе си. „Свобода“ е онтологическата и ценностна основа на човека и в такъв смисъл е сърцевината на неговата автономия , която има много дълга история. Човешката автономия в моето разбиране е много драматичен проблем. Това е една от основните тематични линии в „Социална реалност и въображение”. След трето издание на авторитетно атинско издателство в превод на гръцки, Козарев реализира много представително четвърто издание с убеждението, че книгата станала, според него, много актуална в смисъла на поставения тук въпрос. Вероятно си заслужава на представянето на книгата през есента да се отдели специално внимание на въпроса.
Когато казвам, че свободата е същността на човешкото в човека, това не е просто красиво, но винаги е върховно изпитание. Така е било в началото и така ще бъде завинаги. Да си припомним смисъла на вечното завръщане ( Ницше).
Можем ли да говорим за нов тип власт – властта на алгоритмите и на корпорациите, които ги създават? И кой има реален контрол върху тази власт?
Проф. Георги Фотев: – Да, можем! Но понятието власт не е еднозначно. То е самоочевидно в естествената нагласа на всекидневния живот, ключово понятие във феноменологическата социология. Самоочевидността е контекстуална. Когато се казва, че логиката, формална и каквато и да е, Кант би бил изумен, ако види колко видове логики има освен създадената от Аристотел формална логика, която той е смятал за валидна през вековете. Алгоритмичната логика на изкуствения интелект не е контекстуална и в такъв смисъл нейният диктат изглежда брутална или безсърдечна власт. Известно е, че през 19-ти век в Англия текстилните работници, наречени лудити, чупят машините, защото заради тях губят работните си места. Сега по аналогичен начин се гледа от големи общности на изкуствения интелект. Необходимо е да се внимава с аналогиите, особено историческите. Тяхната функция е спомагателна. Има съществени разлики между машините и интелигентните машини, които предпочитам да наричам не-човеци, което е нещо различно от нечовеци. Всички знаят пословични примери за значението на запетаята. Тук на терена и тирето.
Доколко е възможно обществото да се довери на изкуствения интелект, когато зад него стоят компании с огромна икономическа и политическа мощ, които едновременно обещават технологично спасение и предупреждават за катастрофалните рискове от собствените си продукти?
Проф. Георги Фотев: Моралният патос ми допада. Но под патос имам предвид първичния смисъл на гръцката дума. Доверието е фундаментално и универсално социално отношение , тоест то прави възможно самото общество. Естествено има и други условия. Но умните общества се основават на умно доверие. Това е обширна тема и сложен социологически проблем. Необходимо е доверието в многообразните му форми и разновидности да е централна и непрестанна тема в публичния форум на нашето общество. Безгрижието и вандалщината по отношение на доверието в нашето общество са отчайващи . Така не може. Вашата свободна медия ми дава думата да кажа, че обществото ни е на ръба на пропаст!
Не се ли получава парадокс: обществото се очаква да има доверие в AI/ИИ, но самите технологични лидери говорят за необходимост от контрол, регулация и дори за екзистенциални рискове?
Проф. Георги Фотев: Развитието на дадена наука се определя от развитието на нейния концептуален арсенал и инструментариум. Най-сложното и фундаментално понятие на социологията е понятието общество, кодифицирано в нейното име. Късномодерното общество, за което говорим, все повече се разводнява, в смисъла на понятието на моя покоен приятел, ключова фигура в постмодерната социология, Зигмунт Бауман: „течна модерност“. Обръщам внимание на това, за да се запитаме какво се има предвид, когато се казва, че се очаква от обществото да има доверие в AI/ИИ. Лидерите в новите технологии, в т.ч. в развитието на AI/ИИ не могат да пренебрегват не само по морални мотиви необходимостта от контрол, регулации и рискове, в т.ч. екзистенциални рискове. Отваря се темата за рисковете. В „Човешката несигурност” и в други мои трудове и в университетския ми курс в програма „Социология“ на НБУ. Бих насочил фокуса на вниманието върху новия тип рискове, при които не може да се идентифицира персонално субекта, който взема решение и носи вината за щетите, които на свой ред не се поддават на локализиране.
Как се променя отношението към труда, ако AI/ИИ започне да замества не само физически, но и интелектуален труд? Какво означава това за човешкото достойнство и за социалното неравенство?
Проф. Георги Фотев: Общо взето става дума за фармакон във философски смисъл на понятието. Нещата не са еднозначни. Ако си послужим с термини от медицината, което в случая ми дава възможност да се изразя кратко, в противен случай трябва да правим отделно дълго интервю, от първостепенно значение е вярната социална и технологична диагноза, но и правилната терапия, също в социален и технологичен смисъл.
Възможно ли е AI/ИИ да задълбочи съществуващите неравенства, вместо да освободи човека от труда и да създаде повече благополучие?
Проф. Георги Фотев: Разговорът ангро за неравенствата в съвременното общество, което се характеризира с динамично нарастваща комплексност, е безсмислен и преди всичко вреден. В „Граници на политиката” и в други мои съчинения поставям акцент върху необходимостта от разграничението на първо място между ЛЕГИТИМНИ и НЕЛЕГИТИМНИ неравенства. Без такова разграничение хората се оплитат най-често в задушаващ егалатиризъм , който е опустошителна съблазън. Темата е много голяма, но да вървим директно към въпроса на въпросите днес.AI/ ИИ е лоно на смразяващи неравенства, но в същото време на невъобразими по-рано човешки възможности. В моя теоретичен език това е негативна поляризация. Необходимо е да се изучава, да се осветлява тъмната страна на таящите се в лоното на AI/ИИ неравенства и да се разбулва, колкото е възможно хоризонта на човешките възможности.
Да вземем труда. Човекът се определя като homo faber и animal laborans. Има такава известна мисъл, че „трудът е създал човека”. Трудът поробва и затрива човешкото в човека. В известен смисъл човешката история е освобождение от труда като възвръщате на същността на човека от веригите на нейното отчуждение. Интелигентните машини, не-човеците обръщат позициите на господаря и роба във „Феноменология на духа” на Хегел. Радикалният въпрос е какво става с човека. Аз се обръщам към пост-хуманизма и към радикално новата ситуация на човека, която не може да разчита на опита от историческото минало и този преди настъпването на пост-човешкото общество. Философията и науки като социологията (нямам предвид долината на скръбта) сериозно изостават. Това е друга опера.
Когато технологичните компании настояват, че развитието на AI не бива да бъде спирано, защото това би означавало изоставане в глобалната конкуренция, не се ли превръща технологичният прогрес в политически аргумент, който изключва обществения дебат?
Проф. Георги Фотев: Развитието на AI не бива да бъде спирано. Технологичните компании знаят какво говорят. Проблемът е, че останалите не знаят какво би означавало спиране на развитието на ИИ. Естествено имат значение и интересите на въпросните компании. Това обаче е на втори план. Нищо човешко не е възможно извън политиката. Няма да се уморя да повтарям моята любима мисъл на Аристотел, че вън от политиката човек е мислим като животно или бог, тоест няма човек
Какво трябва да означава „обществено доверие“ към AI? Достатъчно ли е системите да работят ефективно, или трябва да има прозрачност, възможност за човешки контрол и ясна отговорност при вреда?
Проф. Георги Фотев: Без обществено доверие е невъзможно. Просветено обществено доверие. Просвещението, което имам предвид е един принципно нов епохален проект, а не репликация на Просвещението от края на 17 в. и 18 в. Да не се забравят и неговите горчиви плодове . Ефективността е много важно нещо, но типовете рационалност не са всичко. Прозрачността е жизнено важна. Където в обществения живот на хората има непрозрачност се мъти нещо незаконно.
Има ли опасност да свикнем с автоматизираните решения постепенно – чрез малки компромиси, които поотделно изглеждат безобидни, но в крайна сметка променят самата представа за човешка свобода и отговорност?
Проф. Георги Фотев: Има такава опасност. Има! Журналистите, публицистите, интелектуалците, които не са подлоги по принуда или от малодушие са призвани да държат будно общественото съцзнание и съвест. Аз се възхищавам на будните. Знам какво говоря. Не е казано, ей така. Тъмните сили ненавиждат светлината, която ги убива.
Как трябва да реагира демократичното общество на концентрацията на технологична власт в ръцете на няколко частни компании? Има ли нужда от нови политически и институционални механизми за контрол?
Проф. Георги Фотев: Демократичното общество, ако днес хората знаят какво имат предвид под този станал магически код, трябва да реагират умно и решително. Много ми импонира казаното от Макс Шелер „Решително НЕ!”. Напомня ми апостол Павел, коeто не понася шикалкавянето.
Възможно ли е да се изгради етика на изкуствения интелект, която да не бъде просто корпоративен PR, а реален обществен договор за границите на допустимото?
Проф. Георги Фотев: – Въпросът засяга директно интелектуалната жарава, в която се намирам през последните години. Засегнах жаравата вече мимоходом. Имах публична академична лекция за предизвикателствата пред етиката и правото в настъпващото пост-човешко общество и ИИ. Налага ми се да навлизам дълбоко в парадигмите на етиката и тези на правото. Няма друг начин да се отнасяме към бъдещето освен чрез светлината, която идва от миналото, ако се послужа с урок на Карл Ясперс. Ситуацията е такава, че е необходимо да повярваме в невъзможното, както е казал Макс Вебер, а векове преде него Тертулиан. Ех, ситуациите са много различни. Ако това сме разбрали вярата ни със сигурност не е напразна.
