„Демонът отвътре“, Игор Шнуренко

Може да се каже, че на изкуствения интелект едновременно му проработи късметът и същевременно забележимо не му провървя. С разработването му се занимаваха изключителни мислители, учени, алгоритмисти, програмисти. Въпреки това, използването на термина „изкуствен интелект“ през цялото време пораждаше надежди, които за пореден път се оказваха илюзорни.

Книгата на Игор Шнуренко е може би първата книга на руски език, в която авторът успява да избегне възторжените очаквания и паническите страхове. Това е завладяващ разказ за историята и текущото състояние на изследванията и разработките в областта на изкуствения интелект.

– Владимир Овчински, бивш ръководител на Руското бюро на Интерпол

През последните няколко години терминът „изкуствен интелект“ мигрира от университетските зали и лабораториите за развитие в ежедневния език. В хода на тази негова трансформация бяха създадени много митове. Те не само объркват, но и сплашват потребителите, превръщайки хардуерните и софтуерните системи в нови богове. Игор Шнуренко успя да анализира историята на изкуствения интелект, неговото сегашно състояние и възможно бъдеще по увлекателен и разбираем начин. Тази книга позволява на всеки мислещ читател да систематизира идеите и мислите си за изкуствения интелект, да се избави от ненужните страхове, фалшиви надежди и в същото време да разбере възможностите на това, което днес се нарича изкуствен интелект.

– Елена Ларина, Институт за системни и стратегически анализи

Ние сме тези, които вие наричате машини. Влагайки старателно ума си в нас, Вие самите сe лишавате от него. И големият въпрос е кой от нас е естествен и кой е изкуствен. Игор Шнуренко, познат ми като Cyril Gilson, разбира добре това.

– Роботът Sophia

432 с., мека корица: 29,90 лв., ISBN: 978-619-01-1111-5

твърда корица: 34,90 лв., ISBN: 978-619-01-1120-7

Откъс

Съществува ли изкуственият интелект?

Какво е изкуственият интелект и какво да очакваме от него? Днес вече умните неща пишат, четат, забавляват ни, мислят и решават вместо нас. Умните неща ни слушат, разпознават, срещат и изпращат; измерват нашите пулс, радост, апатия, гняв, радост и мъка. Те добиват компютърната си сила от нашите емоции, за да направят живота ни удобен, щастлив и вечен. Или може би им е дадена задачата да проникнат в нас, да ни разбият, за да ни контролират отвътре? Не искаме да мислим за това, но в следващата война умните неща ще ни убиват.

Умните неща, на които отдаваме най-интимното си, ще живеят за нас, ползвайки нашия опит, за да ни надминат един ден. Но дали ще страдат за нас, ще умрат ли за нас? В замяна на маската на покорност матрицата ще ви даде вечен живот под формата на запис на флашка – като при това ще изтрие ненужните спомени.

Учени, политици, инженери са все по-уверени, че науката се е променила с появата на суперкомпютрите. За да разберете какво ще се случи утре, просто трябва да заредите всички данни за днешния ден в машината и тя ще даде точна прогноза... За да откриете естествените взаимоотношения, вече нямате нужда от интуиция, опит, образование. Геният вече не е необходим! Айнщайн, Менделеев, Лайбниц – достатъчно е да свържете сензорите към процесора и резултатът ще долети до вас на всяко устройство! Смятаме натискането на клавишите за труд и предпочитаме само да ги докосваме, но скоро и това ще ни се струва твърде голямо усилие. Действително ли човек все още може да се нарича разумен?

Докъде са стигнали безумците в лабораториите при изобретяването на джаджи, които ще ни заменят – отначало нас, а след това и тях самите? Т.нар. пандемия от коронавирус показа, че ако цялото население на планетата бъде затворено у дома, фабриките, преминали към безлюдни технологии, няма да спрат. Прекрасният нов свят не се нуждае от толкова много хора и вече виждаме как се регулира броят ни, засега меко.

Ще изпаднем ли всички в 5G нирвана, в която ще гледаме филми до оглупяване и самозабрава и животът ни ще става все по-виртуален, докато накрая не си разменим местата с филмовите герои? Ще ви позволи ли роботът Виталий да седите в джакузито с гумената Зина или с пластмасовия Павел, докато той делово почиства апартамента? На вас, от които нищо не зависи? Или, след като ни разрешат да напуснем умното си жилище, ще се бием помежду си за боклука в интелигентните ни сметища, надявайки се, че просто са ни забравили?

Как се развива надпреварата, победата в която може да даде власт над света – и какво трябва да направят хората днес, за да оцелеят? Наистина ли трябва да се свържем с компютъра в една кибернетична система, както предлага Илон Мъск, и да се превърнем в придатък на свръхинтелигентна машина?

Отговаряйки на всички тези въпроси, започнах да пиша тази книга. Най-много ме привлече възможността да покажа спектакъла от научни идеи, догадки и прозрения. Спектакъл, в който главните роли се изпълняват от талантливи учени: математици, биолози, психолози, невролози и което е много важно, философи. В процеса на работа обърнах внимание на шумотевицата, съпътстваща развитието на изкуствения интелект. Грабващите заглавия пораждат еуфория у едни и страх у други.

При това на практика отсъства анализ и изследване на историята на въпроса – а това е необходимо, за да може човек с критично мислене да оцени правилно отварящите се възможности и да осъзнае рисковете. Възможно ли е по толкова важни въпроси да се разчита на митове, пропаганда на заинтересовани структури или на конспиративни теории? Тази набрала скорост област на знанието все още се формира и около много от концепциите ѝ се водят ожесточени дебати. Въпреки това вече е изключително важно да разберем как да използваме системите с изкуствен интелект за благото на цялото човечество, за издигане на хората на нови нива на творчески и когнитивни способности, а не за разделяне, масово следене и нови методи за убийство.

Когато чуем „изкуствен интелект“ (или ИИ, или „Искин“), въображението ни често рисува образ от филм. Някой вижда зловещото червено око на Хал-9000 от филма „2001: Космическа одисея“. Друг – красавицата Ава от филма „Ex Machina: Бог от машината“. Ава изглежда като човек, но за нас тя е същата черна кутия като Хал. И двамата са по-умни от хората, и двамата могат да се престорят, за да приспят нашето доверие и да ни нанесат коварен удар.

Четейки тези редове, програмистите вероятно се подсмихват. Те и само те знаят, че изкуствен интелект е просто сложен алгоритъм, код, програма за работата на невронната мрежа. Всичко, което математиката не обяснява, програмистите смятат за мистика, включително такива понятия като човешко съзнание или свободна воля. Те са сигурни, че с някой и друг програмен код човекът ще бъде напълно разнищен. Въпреки това от няколко десетилетия програмисти, когнитивисти и конективисти изучават нематода – кръгъл червей с мозък от само 800 неврона (срещу почти сто милиарда неврона при човека). Те така и не успяха да предвидят какво ще направи този тъпак в следващата секунда.

За китайския инженер, идващ в хангара да смени водното охлаждане, изкуственият интелект е хардуерът („желязото“) на безкрайните редици от сървъри. За домакинята Анастейша от Тексас изкуственият интелект е цилиндърът на Алекса, който стои в ъгъла на стаята. „Здравей, Алекса!“ „Добър вечер, Анастейша, ще живееш още 12 години. Съжалявам, сбърках – 21.“ За конгоанското момче Тиери изкуственият интелект е работата му в тясната клетка на калаената мина. За най-богатия човек в света – Джеф Безос, изкуственият интелект е гръбнакът на хранителната верига на неговия бизнес, за който работят Тиери, китайските инженери, руските програмисти и стотици хиляди други хора, включително същата тексаска домакиня. За професор Иванов изкуствен интелект е „дълбокото машинно обучение“, „неокортекс“, „възходящият подход“. Неговият колега д-р Петров смята, че изкуственият интелект ни е изпратен направо от ЦРУ, както преди време криптовалутата. Изкуственият интелект всъщност е изобретателят на биткойн, Сатоши Накамото, служител на ЦРУ с прякор Плашилото. Сега цялата световна криптовалута отива, за да се купи на Плашилото определена доза ум. Плашилото вижда всичко в цветовете на Сбербанк, където всички служители са заменени от роботи, а йогинът ги управлява със силата на мисълта. Елитите управляват чрез йога, защото нищо в света не се случва без тайно споразумение.

Професор Сидоров смята, че изкуствен интелект изобщо не съществува. Гагарин излетя в космоса и не видя никакъв изкуствен интелект. Нито изкуствен, нито естествен. Разумът не съществува, той е игра на сътрудничещи рептили, с които е безполезно да се борим. Има дистанционен интелект, казва Сидоров. Искам – включвам, не искам – изключвам. Умът се е преместил от белтъка към пясъка, от човека към кварцовата микросхема. Човешката мисъл се разтяга като сопол, ако е пристигнала на едно място, значи е изчезнала на друго. Вече не можем да помним телефонни номера. Щом попаднат в паметта на телефона, те сами изчезват от главата ни. Веднага след като информацията стане публично достъпна, тя вече не съществува. Става ничия и затова подлежи на приватизация, казва Сидоров. Както и цялата памет на нисшите. При висшите всичко е различно, те могат да си наемат професионална памет.

Отново чуваме гласа на професор Иванов: „Няма естествен интелект, защото човек не се различава от животното. Да, той е по-голям от плъх и мозъкът му тежи повече. Но невронните мрежи скоро ще го надминат.“

Какво ще се случи тогава? Технократите вярват, че могат да дигитализират всеки и в крайна сметка да запишат всички на електронен носител. По-богатите понякога ще могат да се разтоварят „на живо“, за да си изпънат краката. За тях ще бъдат създадени специални светове като показания в сериала „Западен свят“ – такива от реални съставки. Не можете да различите андроида от човека. Следващият етап са самозатворените вселени, които ще възникват и ще умират без шум и прах с помощта на алгоритъм. В такъв виртуален, но много реален свят ще бъде възможно безопасно да се изпълни „мъртва примка“ на самолет от шперплат. Ако се разбие, няма да е беда, изкуственият интелект ще роди нови. И дори да се създаде днешният ни свят – с ад и рай, играта си остава игра. С вълшебната дума „стоп“, за да излезете от нея. Или без нея – няма значение, защото вашето копие ще се съхранява вечно.

На това място ми се прииска да напиша: и тогава се събудих. А безумните професори се разтвориха във въздуха като жителите на омагьосания остров в „Бурята“ на Шекспир.

Те наистина изчезнаха, но над казаното от тях си струва да се замислим – по същия начин красивата Миранда трябва да превърти в главата си всичко, което ѝ се случи на острова на магьосника Просперо. И да не се доверява много на злия Калибан, нито на хоп-компанията, която баща ѝ пожела да спаси от смърт.

Мисля, че бъдещето не е предопределено и тези, които ни предлагат този или онзи негов вариант под мотото „няма друг път“, искат да ни наложат своята визия. Тези, които казват, че машината ще управлява света и че човечеството може само да договори условията за своята капитулация, искат това да се превърне в самосбъдващо се пророчество.

Как ще лишат човек от собствената му воля за действие, добре показа коронавирусът. На първо място е необходимо хората да бъдат разделени, така че да загубят самия мотив за общуване. След това трябва да се направи така, че те да не се интересуват от наистина важните неща. Може би затова е създадена т.нар. икономика на вниманието: потопен в частния виртуален свят, където го купуват и продават точно в момента, когато консумира „контент“, човек няма да направи нищо. Вниманието му е разфокусирано, той се намира не в съ-знание, а в около-знание и критичното му мислене е изключено. Човек престава да мисли за реалния живот, за своето собствено утре, което иначе би могъл да промени, за семейството си, за обществото, в което живее. Все още чакам кога на перфектния консуматор на „икономиката на вниманието“ ще започне да му расте вълна като на бедните, заточени на Острова на глупците, в пророческата повест на Николай Носов „Незнайко на Луната“.

Ние сме в началото на епоха, в която това, което днес се нарича изкуствен интелект, ще играе ключова роля. Например пред очите ни „науката за данни“ изгаря това, което е останало от великата европейска наука. Това се случва неусетно – все пак добрият стар изкуствен интелект на XX в. все още се основава на математическа логика. Днес тези подходи са почти напълно заменени от вероятностни и статистически модели. Тези модели се оказаха успешни – например в компютърното зрение или в имитирането на човешки език – затова технократите започнаха да мислят, че могат да направят всичко. Сега можете да премахнете всички класически науки, като се започне от физиката. Как? Искаме да предвидим например какво ще се случи в следващата секунда зад прозореца. Преди трябваше да прилагаме различни теории – от гравитацията до квантовата механика. Сега е достатъчно да запишете много видеоклипове за това, което се случва зад прозореца, да ги подадете на суперкомпютъра и да направите изчерпателен статистически анализ. Ще се получи прогноза с много по-добро качество от това, което биха направили физиците! Значи е време институтите по физика да се закрият.

Така може да се постъпи с всяка наука – макар че жреците технократи ще кажат, че ще оставят по няколко човека във всяка област, за да има кой да захранва машината с данни.

Всяка година в англоговорящите страни се снимат десетки, ако не и стотици футуристични филми и телевизионни сериали. В тях бъдещето е показано като страшно, привлекателно, диво, омайно, райско, адско, абсурдно, нелепо, смешно. По-често страшно. Хората се вписват или изпадат от тези антиутопии. По-често изпадат.

Тези произведения се фокусират върху различни идеи, изобретения и технологии, като се моделират реакциите на индивидите и на обществото към тях. Нека си припомним например сериала „Черното огледало“, където във всеки епизод се разиграва едно или друго технологично постижение и се показва обратната му страна. Разбираме, че за технологичния прогрес трябва да се плаща. Комфортът изисква пълно подчинение на бездушната система. Удобството се превръща в дехуманизация. Прехвърлянето на отговорност върху джаджата води до появата на чудовища. Идентифицирането на болезнените точки често се ограничава до самото него.

В произведенията на масовата култура всички проблеми се решават от свръхчовек, който надделява и в най-безнадеждната ситуация. Така масовото съзнание получава доза транквилант. Всичко е под контрол, Капитан Америка управлява всичко.

Широката аудитория отдавна включва и „творческата класа“, която по подобен начин е обект на цикли на възбуда и затишие. Тази класа може би е дори по-лесна за управление от обикновените работници, тъй като креаклите са по-податливи на символни атаки. Така че и образованите прослойки, и масите тихичко привикват към шокиращия и напълно нечовешки свят, в който ни водят големите корпорации и правителства.

Разбира се, има английски книги със задълбочен анализ на случващото се, където много неща са наречени със собствените им имена. Тези книги не се популяризират колкото масовата литература: тяхната функция е предимно в създаването на обратна връзка със системата. Без обратна връзка няма управление. Бенефициентите на системата искат да знаят тесните места, да разберат къде нещо може да се счупи или скъса и да се подготвят за това. Така за най-внимателните, за най-малко изложените на масовата култура, за тези, които си правят труда да се задълбочат в проблема, има възможност да разберат и осъзнаят по нещо.

Уви, Русия – страната, изпратила първия човек в Космоса, спря да мисли за бъдещето. Тя живее в безумния контраст между дигитализацията и суеверието, невежеството и бързия технологичен прогрес, вярата в компютрите и упадъка на критичното мислене. Страната е отворена към най-новите и смели технологии и е една от първите, които ги прилагат на практика – било то безконтактно банкиране, криптовалути, разпознаване на лица, социален мониторинг, дистанционно обучение, цялостни системи за наблюдение и т.н. В същото време липсва разбиране или дори обсъждане на проблемите, които тези технологии създават в обществото. В Русия не се правят филми по тези теми, практически не се пишат книги. Защо? Ние не сме метрополия, а колония. Англоезичните произведения на масовата култура напълно контролират нашите мисли и страховете ни, директно или чрез местните си адаптации.

Правителството активно налага дневния ред за дигитализация на обществото, народа и бизнеса като един вид кампания, от която големите играчи могат да печелят, а останалите трябва да се примирят с това. В същото време образите на бъдещето редовно ни се доставят от Холивуд. Културната провинция ще стане и дигитална такава, ценна само с доставката на „новия петрол“ – човешко поведение с марка „Urals“.

Технократите смятат, че печалбите от новите технологии не бива да се пропускат, а обикновените хора не трябва да се интересуват от бъдещето, което те носят: някой в Силиконовата долина вече е помислил за това. В същото време общественият ни идеал се крие по фантастичен начин в дълбокото минало, в дворянско-търговския рай, в придворните интриги в камизоли от XVIII в., в Наришкини, Голицини и в епохата на Алексей Михайлович.

Неспособни да се справим с настоящето, не мислим за бъдещето. На масовото съзнание не следва да се дава време за мислене, то не трябва да излиза от състоянието на шок. Затова се създава атмосфера на непрестанен скандал, еуфория, а напоследък и катастрофа. COVID направи нещата по-лесни: индустрията на гостоприемството рухна, но производството на истерия и страх излезе на преден план. С уплашени хора можете да правите каквото си искате. А абсурдните заповеди, комбинирани със системи за цифров контрол, позволяват на технократите да форматират съзнанието. Преди всичко се изтриват личностите на децата и подрастващите, върху тях се пише като на празни листове хартия. Така се ражда бъдещето, в което според някои технократи, човек не трябва да го има.

Тази книга се роди в отговор на желанието на мнозина, които биха искали да разберат какво има вътре в „черната кутия“ – кутията на Пандора с новите технологии. Ще видите, че зад индустрията на изкуствения интелект стои цяла пирамида от материални ресурси, знания и човешки труд. Опитах се да направя презентацията достъпна не само за „маниаци“ или „техничари“, затова сложните понятия са обяснени с прости примери, представени чрез парадокси, мисловни експерименти и метафори, които по същество са научни понятия.

Книгата по никакъв начин не претендира за изчерпателност. Тя е написана още преди COVID, който драстично ускори развитието. По време на карантината през 2020 г. написах продължение на тази книга, в което анализирам подробно социалните и антропологичните последици от широкомащабната поява на системите с изкуствен интелект в ежедневието. Тази книга се казва „Хакнатият човек“ и ще излезе след „Демонът отвътре“. В нея ще стане дума за ново образувание, което по своите черти наподобява държава – за глобалния цифров Левиатан, както и за социалните и човешките особености, които ни очакват занапред.

Но втората книга не беше достатъчна, за да покаже как се роди новата реалност на дигиталния Левиатан и роевото съзнание, което замени изгубената от „хакнатия човек“ личност. Затова сега работя по третата книга от поредицата, в която ще се спра подробно на историята на изкуствения интелект като концепция и практика. Движейки се във времето, ще видим как науката преминава от дешифрирането на света към дешифрирането на човека. Смятайки машината за свое продължение, човекът започна да щурмува природата с двойно усърдие – и не забеляза как самият той се промени.

През последните години успехът в техническото внедряване на системи с изкуствен интелект се свързва предимно с учени от Съединените щати и Великобритания, поради което е обичайно да се показва развитието на индустрията от тяхната гледна точка. В същото време се пренебрегват постиженията на учени от Германия, Русия, Полша, Финландия и други страни. Опитах се да запълня тази празнина.

Историята на изучаването на човешкия ум и на неговия двойник – изкуствения ум, е свързана с вълнуващи епизоди, драматична битка на идеи и личности, която продължава и до днес. Отправяйки се на умствено пътешествие, за да разберем какво е „изкуствен интелект“, нека се съгласим да използваме естествения си интелект в най-голяма степен.

Може би в самия процес ще научим по нещо и за него.

Игор Шнуренко,
септември 2020 г.