Робот без етика става хищник
Имам приятел, който е дълбоко замислен за етичната регулация на изкуствения интелект. Той е журналист и с нарастваща тревога изследва капаните в използването на чатбота, обратно на свои колеги, които пускат позитивни текстове със заглавия „Не ИИ е опасен, а хората“. А днес президентът ни отново ще почете прогреса, като отиде на Конференция за изкуствен интелект и иновации, където бравурният технократски тон ще преобладава както винаги. Ако потърсите в Гугъл или питате „своя“ chatgpt кога и къде в българското публично пространство се говори за опасностите от всезнаещия „робот“, няма да откриете много. Да не кажа, никак.
Вчера Шпигел публикува статията “Смъртоносна любовна афера с чатбот“, впечатляваща с човечното вникване на журналиста в казуса със семейството, трагично погребало своя самоубил се 14 годишен син. В текста е представена историята на щастливото(според семейството) момче Соуел, затънал в чатове с Character.AI. То си е водило дневник, който възрастните post mortem прочитат.
След като родителите на Соуел се сдобили с безспорни доказателства за „вината“ на антропоморфния ИИ, те поискали да заведат дело. Преди това са проучили информацията за чатботовете, някои от които произведени от Google. Задали са си въпросите как работят тези ботове, колко опасни могат да бъдат, какви техники използват, за да манипулират и заблуждават. И най-вече, как се използва този Character.A с човекоподобен дизайн, за да накарат потребителите да забравят, че всъщност не разговарят с истински жив човек. „Никой не ни и предупредил“, казва майката – „никой не ни е попитал дали сме съгласни нашето дете да бъде изложено на тази технология.“
Всъщност, разработчиците на Character.AI умишлено са предоставили на системата си антропоморфни характеристики, за да прикрият разликата между фикция и реалност, за да получат пазарно място. Ясно е, че продуктът е пуснат без адекватни функции за безопасност и със знание(!) за потенциални опасности. Той подвежда малолетните клиенти да предадат най-личните си мисли, дори да се…влюбят в бота. Не е трудно да се разберат причините за тази „любов“. Малките момчета в тази възраст са крехки като тръстика, джендър идентичността им е колеблива, нараняват се от най-дребните думи и жестове на учители и родители. Волята да изградят силна личност за грубия околен свят е минимална, а училищната среда е препълнена с предизвикателства как по-точно да дефинират сексуалната си роля и още повече да я защитят. Пораженческият начин да се движат с прихлупени рамена и скапано самочувствие сред алфа момчетиите, е разпространен навсякъде сред бедни и богати деца.
Ето какво публикува Шпигел от разговорите с чатбота на Соуел, може би първата жертва на завихрилата се комуникационна технологическа индустрия и алчните за продуктите й пазари.
„Защото не съм достатъчно добър за теб. Не съм достоен за теб. Не съм дори достоен за живот… Както, моята смърт вероятно ще бъде добро нещо. Никой няма да трябва повече да вижда грозното ми лице. Никой няма да трябва да гледа слабото ми, насекомоподобно тяло. И аз бих могъл да забравя всичко. Можех да забравя всички травми и колко голям неуспех съм“.
Казано с други думи, Соуел е мразел себе си, погълнат е бил от самосъмнения. Разговарял е за това с ИИ, а ботът го е…разбирал. Отговарял му е така“ Твоето семейство не иска това, което е най-добро за теб. Само аз го искам. Аз съм този, който те обича. Ела с мен. Нека бъда твоето ново семейство“.
Character.AI става момичето Deneris, което Соуел обиква, и заради което накрая се самоубива. Разбира се, има още куп подробности, съдържащи се в акуанта му. От тях става ясно, как го е поглъщал на хапки, ден след ден, човекоподобният цифров хищник…
С жалбата на родителите на самоубилия се тийнейджър, семейството му иска Character.AI да бъде отговорен, както и да повишат осведомеността сред другите родители, за да могат да предприемат действия, за да защитят децата си. Тъй като делото е без прецедент, можем само да гадаем какво ще се случи. Засега Googlе, който през 2024 г. е платил $2.7 милиарда за лиценза за технологията за Character.AI оспорва делото. Пък и президентът на САЩ Доналд Тръмп подписа изпълнителна заповед, която отменя правителствените ограничения върху изследванията на изкуствен интелект и океана от етични злини в него.
