Мичио Каку
Физика на невъзможното (9)

7. Роботи

По някое време през следващите тридесет години, един ден сред тишина и спокойствие ние ще престанем да бъдем най-умните същества на Земята.

Джеймс Маклиър

В „Аз, роботът“ — филма, направен въз основа на написаното на Айзък Азимов, през 2035 г. е активирана най-модернизираната роботизирана система, конструирана някога. Тя се нарича VIKI (Virtual interactive Kinetic Intelligence — Виртуален интерактивен кинетичен интелект) и има предназначението да ръководи безупречно операционните системи в една голяма метрополия. Всичко се контролира от VIKI, като се започне от системата на метрото и електрическата мрежа и се стигне до хилядите домашни роботи. Главната й задача е строго определена: да служи на човечеството.

Но един ден VIKI си задава жизненоважния въпрос: Кой е най-големият враг на човечеството? VIKI стига по математически път до заключението, че най-злият враг на човешкия род е самото човечество. То трябва да бъде спасено от безумното си желание да замърсява, да отприщва войни и да унищожава планетата. Единственият начин, по който VIKI може да изпълни своята най-важна директива, е да установи власт над човешкия род и да създаде добра диктатура на машината. Човечеството трябва да бъде поробено, за да бъде предпазено от самото себе си.

„Аз, роботът“ поставя за разглеждане ред въпроси. Като се има предвид астрономически бързият напредък в областта на компютрите, дали един ден машините ще надделеят над нас? Възможно ли е роботите да се модернизират толкова, че да се превърнат в основната заплаха за нашето съществуване?

Според някои учени това не е възможно, защото самата идея за изкуствен интелект е глупава. Множество критици в хор заявяват, че е невъзможно да бъдат конструирани машини, които могат да мислят. Техният аргумент е, че човешкият мозък е най-сложната система, която е създавала някога природата, поне в тази част на Галактиката, и всяка машина, която е проектирана да възпроизвежда човешката мисъл, е обречена на провал. Философът Джон Сърл от Калифорнийския университет в Бъркли и дори прочутият физик Роджър Пенроуз от Оксфорд са убедени, че машините са физически неспособни да извършват интелектуална операция като човешката мисъл.^[1] Колин Макджин от университета „Рътгърс“ твърди, че изкуственият интелект „прилича на мързеливците, които се опитват да практикуват фройдистка психоанализа. Те просто не притежават концептуалната подготовка“.^[2]

Могат ли машините да мислят е въпросът, който предизвиква разделението на научната общност вече в продължение на повече от век.

Историята та изкуствения интелект

Идеята за механични същества отдавна запленява изобретателите, инженерите, математиците и мечтателите. От Тенекиения човек в „Магьосникът от Оз“ до детеподобните роботи във филма на Спилбърг „Изкуствен интелект“ и роботите убийци в „Терминатор“ идеята за машини, които действат и мислят като хората, ни омагьосва.

В гръцката митология бог Хефест (Вулкан) изковал механични прислужници от злато и трикраки маси, които можели да се движат благодарение на своята собствена енергия. Още през 400 г. пр.Хр. гръцкият математик Архит от Тарент писал за възможността да бъде направена птица робот, която да бъде привеждана в движение от силата на парата.

През I в. сл.Хр. Херон Александрийски (за когото се смята, че е изобретил първата машина, основана на пара) проектирал автомати, като един от тях според легендата притежавал способността да говори. Деветстотин години по-късно Ал-Джазари проектирал и конструирал автоматизирани машини като водни часовници, кухненски принадлежности и музикални инструменти, които се захранвали с енергия от водата.

През 1495 г. великият ренесансов художник и учен Леонардо да Винчи нарисувал подробни скици на рицар робот, който можел да стои изправен, да размахва ръцете си и да движи главата и челюстта си. Историците смятат, че това е първият реалистичен проект на хуманоидна машина.

Първият грубо изработен, но функциониращ робот бил конструиран през 1738 г. от Жак дьо Вокансон. Неговият андроид можел да свири на флейта, а механичната му патица — да се движи.

Думата „робот“ произлиза от чешката пиеса от 1920 г. „Р.У.Р.“, написана от автора на пиеси Карел Чапек („робот“ означава „робия“ на чешки език и „работа“ на словашки). В пиесата една фабрика, наречена „Универсалните роботи на Росум“ произвежда армия от роботи за извършване на черната и робска работа. (За разлика от обикновените машини обаче тези роботи са направени от плът и кръв.) Накрая световната икономика започва да зависи от тях. Но хората проявяват лошо отношение към тях и накрая роботите въстават срещу своите човешки господари, като ги избиват. В гнева си обаче роботите убиват всичките учени, които могат да ги ремонтират и да създават нови роботи, като по този начин се обричат на изчезване. Накрая два специални робота откриват, че притежават способността да се възпроизвеждат и потенциалната възможност да се превърнат в нови роботски Адам и Ева.

Роботите са били и темата на един от най-ранните и най-скъпи неми филми, правени някога — „Метрополис“, режисиран от Фриц Ланг през 1927 г. в Германия. Историята протича през 2026 г., когато работническата класа е осъдена да работи под земята в отвратителни мръсни фабрики, докато управляващият елит се забавлява на повърхността. Красива жена на име Мария е спечелила доверието на работниците, но управляващият елит се бои, че един ден тя може да ги поведе на бунт. Затова искат от един зъл учен да направи робот — копие на Мария. Накрая заговорът се проваля, защото роботът повежда работниците на бунт срещу управляващия елит и предизвиква рухването на обществената система.

Изкуственият интелект или AI се различава от предишните технологии, които разглеждахме досега, по това, че фундаменталните закони, на които се основава, все още не са строго формулирани. Въпреки че физиците разбират добре Нютоновата механика, теорията на светлината на Максуел, относителността и квантовата теория на атомите и молекулите, основните закони на интелекта все още са обгърнати в мистерия. Нютонът на AI вероятно още не се е родил.

Но математиците и учените в областта на компютърните науки остават непоколебими. Според тях е само въпрос на време, преди една мислеща машина да излезе от лабораторията.

Най-влиятелната личност в областта на AI, един визионер, който помогнал за полагането на крайъгълния камък на изследването на AI, бил великият британски математик Алан Тюринг.

Именно Тюринг положил основите на компютърната революция. Той си представил мислено машина (наречена по-късно машината на Тюринг), която се състояла само от три елемента: лента за входяща информация, лента за изходяща информация и централен процесор (от рода на чип Pentium), който може да извършва точно определена серия от операции. Въз основа на това ученият успял да систематизира законите на изчислителните машини и да определи точно тяхната максимална мощност и ограничения. Днес всички дигитални компютри се подчиняват на строгите закони, формулирани от Тюринг. Архитектурата на целия дигитален свят дължи много на Тюринг.

Тюринг допринесъл и за създаването на математическата логика. През 1931 г. виенският математик Курт Гьодел шокирал математическия свят, като доказал, че има верни твърдения в аритметиката, които никога не могат да бъдат доказани в рамките на аритметичните аксиоми. (Например предположението на Голдбах от 1742 г. (че всяко четно цяло число, по-голямо от две, може да бъде изписано като сумата от две прости числа) е все още недоказано след повече от два и половина века, и може на практика да се окаже недоказуемо.) Разкритието на Гьодел съсипало двухилядолетната мечта, която води началото си още от гърците, да бъдат доказани всички верни твърдения в математиката. Гьодел показал, че винаги ще има верни твърдения в математиката, които просто са отвъд нашия обсег. Той показал, че математиката, която съвсем не е завършената и съвършена сграда, която са си представяли гърците, е незавършена.

Тюринг направил добавка към приноса на Гьодел, като показал, че е невъзможно да се знае изобщо дали на една машина на Тюринг ще й бъде необходимо безкрайно много време, за да извърши определени математически операции. Но ако на един компютър му е необходимо безкрайно много време, за да изчисли нещо, това означава, че каквото и да помолите компютъра да изчисли, то няма да може да бъде изчислено. Така Тюринг доказал, че има верни твърдения в математиката, които са неизчислими, т.е. винаги ще бъдат отвъд обсега на действие на компютрите, без значение колко мощни са те.

През Втората световна война пионерският труд на Тюринг върху разбиването на кодовете вероятно е спасил живота на хиляди съюзнически войници и е повлиял върху изхода на войната. Съюзниците не били в състояние да разчетат тайния нацистки код, създаден от машина, наречена „Енигма“, затова Тюринг и колегите му били помолени да конструират машина, която да разбие нацисткия код. Машината на Тюринг била наречена „бомбата“ и в крайна сметка постигнала успех. Повече от двеста броя от неговите машини били пуснати в действие до края на войната. В резултат на това Съюзниците можели да разчитат тайните нацистки емисии и успели да заблудят нацистите за датата и мястото на окончателното нахлуване в Германия. И до днес историците спорят какъв точно е приносът на Тюринг за планирането на десанта в Нормандия, който накрая довел до поражението на Германия. (След войната работата на Тюринг била засекретена от британското правителство. По тази причина същинският му принос остава неизвестен за обществеността.)

Вместо да се отнасят към него като към военен герой, спомогнал за обръщането на хода на Втората световна война, Тюринг бил преследван безмилостно, което довело до смъртта му. Един ден в дома му имало обир и той повикал полиция. За нещастие полицията открила доказателства за неговата хомосексуалност и го арестувала. След това съдът наредил на Тюринг да бъдат инжектирани сексхормони, които оказали пагубно въздействие върху него, тъй като предизвикали уголемяване на гърдите му и му причинили силно душевно страдание. Той се самоубил през 1954 г., като изял ябълка, намазана с цианид. (Според един слух логото на корпорация „Епъл“ — ябълка със следи от отхапване по нея, отдава почит на Тюринг.)

Днес Тюринг вероятно е най-известен със своя „тест на Тюринг“. Изморен от безкрайните безплодни философски дискусии на тема дали машините могат да „мислят“ и дали имат „душа“, той се опитал да въведе строгостта и прецизността в дискусиите за изкуствения интелект, като измислил конкретен тест. Поставете един човек и една машина в две запечатани кутии, предлага той. Разрешава ви се да задавате въпроси на всяка кутия. Ако не сте в състояние да кажете каква е разликата между отговорите на човека и машината, то в такъв случай машината е издържала „теста на Тюринг“.

Известни са прости компютърни програми като ELIZA, които могат да имитират разговорната реч и вследствие на това да заблудят повечето неподозиращи хора и да ги накарат да повярват, че си говорят с човек. (Повечето хора например по време на разговор използват само няколкостотин думи и съсредоточават вниманието си върху малък брой теми.) Но досега не е била написана нито една компютърна програма, която може да заблуди хора, които си поставят точно определената задача да се опитат да установят в коя кутия е човекът и в коя машината. (Самият Тюринг предположил, че през 2000 г., като се има предвид експоненциалното нарастване на компютърната мощност, ще може да бъде конструирана машина, която би измамила 50 процента от съдиите по време на петминутен тест.)

Малка армия от философи и теолози обаче обявява, че е невъзможно да бъдат създадени истински роботи, които могат да мислят като нас. Философът от Калифорнийския университет в Бъркли Джон Сърл предлага въвеждането на „теста с китайската стая“, за да докаже, че AI не е възможен. По същество Сърл твърди, че макар и роботите да могат да издържат някакви форми на теста на Тюринг, те постигат това само защото боравят наслуки със символи, без да разбират ни най-малко какво означават те.

Представете си, че седите в кутията и не разбирате и дума китайски. Допуснете, че разполагате с книга, която ви позволява да превеждате бързо от китайски, като размествате йероглифите. Ако един човек ви зададе въпрос на китайски, вие просто размествате бързо тези странни на вид знаци, без да разбирате какво означават те, и давате правдоподобен отговор.

Същността на неговата критика се свежда до разликата между синтаксис и семантика. Роботите могат да усвоят синтаксиса на един език (например да боравят с граматиката, формалната структура и т.н.), но не и неговата истинска семантика (например какво означават думите). Роботите могат да боравят с думи, без да разбират какво означават те. (Това е подобно донякъде на разговора по телефона с машина, която изпраща автоматично гласови съобщения, в който случай трябва да натискате бутона „едно“, „две“ и т.н. за всеки отговор. Гласът от другия край е напълно способен да разпознае вашите цифрови отговори, но му липсва каквото и да е разбиране на смисъла, вложен в тях.)

Физикът Роджър Пенроуз от Оксфорд също е убеден, че изкуственият интелект е невъзможен. Механичните същества, които могат да мислят и да притежават човешко съзнание, са невъзможни според законите на квантовата теория. Той твърди, че човешкият мозък е толкова далеч от каквото и да е възпроизвеждане в лабораторни условия, че създаването на човекоподобни роботи е експеримент, който е обречен на провал. (Аргументите му са, че по същия начин, по който Гьоделовата теорема за непълнотата е доказала, че аритметиката е незавършена, и принципът на неопределеността на Хайзенберг ще докаже, че машините са неспособни да извършват интелектуални операции като човешката мисъл.)

Обаче много физици и инженери са на мнение, че в законите на физиката няма нищо, което би възпрепятствало създаването на един истински робот. Например на Клод Шанън, наричан често бащата на информационната теория, веднъж задали въпроса: „Могат ли машините да мислят?“ Отговорът му гласял: „Разбира се.“ Когато го помолили да разясни думите си, той казал: „Аз мисля, нали?“ С други думи, за него било очевидно, че машините могат да мислят, защото хората са машини (макар и да са машини, направени от уетуер, а не от софтуер).

Тъй като във филмите виждаме образи на роботи, можем да си помислим, че разработването на сложни роботи с изкуствен интелект предстои да настъпи всеки момент. В действителност положението е много по-различно. Когато виждате робот, който се държи като човек, обикновено става дума за някакъв трик, т.е. за човек в сянка, който говори от името на робота чрез микрофон, подобно на Магьосника от „Магьосникът от Оз“. На практика нашите най-усъвършенствани роботи като роботите скитници на планетата Марс притежават интелекта на насекомо. В прочутата Лаборатория за изкуствен интелект в МТИ експерименталните роботи се сблъскват с трудности при възпроизвеждането на постижения, които са по силите дори на хлебарки, като придвижването в стая, пълна с мебели, откриването на скривалища и разпознаването на опасности. Нито един робот не би могъл да разбере и най-обикновен детски разказ, който се чете пред него.

Във филма „2001: Космическа одисея“ се допуска неправилно, че през 2001 г. ще разполагаме с ХАЛ — суперробот, който може да пилотира космически кораб до Юпитер, да си бъбри с членовете на екипажа, да решава проблеми и да се държи почти като човек.

Подходът „отгоре-надолу“

Има поне два значителни проблема, с които учените се сблъскват от десетилетия и които възпрепятстват усилията им да създадат роботи: разпознаването на модели и здравият разум. Роботите могат да виждат много по-добре от нас, но те не разбират това, което виждат. Роботите могат и да чуват много по-добре от нас, но те не разбират това, което чуват.

За да се справят с тези сродни проблеми, изследователите се опитват да използват „подхода отгоре-надолу“ към изкуствения интелект (наричан понякога от „формалистката“ школа GOFAI от англ. good old-fashioned AI или „добрия стар AI“). Тяхната цел, грубо казано, била да програмират всички правила на разпознаването на модели и на здравия разум върху едно-единствено сиди. Те смятат, че чрез вмъкването на това сиди в компютъра машината изведнъж ще осъзнае съществуването си и ще придобие човекоподобен интелект. През 50-те и 60-те години на XX в. бил постигнат голям напредък в тази насока, тъй като били създадени роботи, които можели да играят дама и шах, да извършват алгебрични операции, да събират разпилени детски кубчета и т.н. Напредъкът бил толкова впечатляващ, че били направени прогнози след няколко години роботите да надминат по интелигентност хората.

През 1969 г. в Станфордския изследователски институт например роботът SHAKEY предизвикал медийна сензация. SHAKEY бил малък PDP компютър, който бил поставен на комплект от колела и имал върху себе си камера. Камерата била в състояние да прави оглед на стаята, а компютърът анализирал и идентифицирал предметите в нея и се опитвал да се придвижва около тях. SHAKEY бил първият механичен автомат, който можел да се придвижва в „реалния свят“, карайки журналистите да градят хипотези кога роботите ще изпреварят хората.

Но недостатъците на подобни роботи скоро станали очевидни. Подходът „отгоре-надолу“ към изкуствения интелект довел до появата на огромни, тромави роботи, на които им били необходими часове, за да се придвижат през специална стая, в която имало предмети само с прави линии, т.е. квадрати и триъгълници. Ако поставели в стаята мебели с неправилни форми, роботът бил безсилен да ги разпознае. (По ирония на съдбата една плодова мушица, в чийто мозък има само около 250 000 неврона и която притежава нищожно малко от изчислителната мощност на тези роботи, може без усилие да се придвижва в три измерения, извършвайки смайващи лупинги във въздуха, докато тези тромави роботи се загубват в две измерения.)

Подходът „отгоре-надолу“ скоро се сблъскал с непробиваема стена. Директорът на Института за киберживот Стив Гранд казва, че подходи като този „са разполагали с петдесет години, за да се докажат и не са доживели изпълнението на обещанието си“.^[3]

През 60-те години на XX в. учените не оценявали напълно огромния обем работа, необходима за програмирането на роботи, които да изпълняват дори прости задачи, като разпознаването на предмети от рода на ключове, обувки и чаши. Както казва Родни Брукс от МТИ: „Преди четиридесет години Лабораторията за изкуствен интелект към МТИ назначи един студент, който да реши проблема през лятото. Той не постигна успех. И аз не постигнах успех при решаването на същия проблем в моята докторска дисертация от 1981 година.“^[4] На практика изследователите на AI все още не могат да решат този проблем.

Например, когато влизаме в стая, ние веднага разпознаваме пода, столовете, мебелите, масите и т.н. Но когато един робот сканира стая, той не вижда нищо друго, освен огромна сбирка от прави и криви линии, които той преобразува в пиксели. На него му е необходимо огромно количество компютърно време, за да придаде някакъв смисъл на тази бъркотия от линии. На нас ни трябва частица от секундата, за да разпознаем една маса, но един компютър вижда само набор от кръгове, овали, спирали, прави линии, вълнисти линии, ъгли и т.н. След като измине огромно количество компютърно време, един робот може накрая да разпознае предмета като маса. Но ако завъртите изображението, компютърът трябва да започне всичко отначало. С други думи, роботите могат да виждат, и то много по-добре от хората, но не разбират това, което виждат. След влизането си в стая един робот би видял само бъркотия от линии и извивки, а не столове, маси и лампи.

Нашият мозък разпознава несъзнателно предметите, като извършва трилиони трилиони изчисления, докато влизаме в стаята — дейност, която за щастие не съзнаваме. Причината, поради която не съзнаваме всичко, което върши нашият мозък, е еволюцията. Ако бяхме сами в гората със саблезъб тигър, който ни напада, щяхме да се парализираме, ако съзнавахме всичките изчисления, които щяха да се окажат необходими за разпознаването на опасността и за бягството. В името на оцеляването всичко, което трябва да знаем, е как да бягаме. Когато сме живели в джунглата, просто не ни е било необходимо да съзнаваме цялата входяща и изходяща информация от нашия мозък при разпознаването на земята, небето, дърветата, скалите и т.н.

С други думи, начинът, по който работи мозъкът, може да бъде сравнен с огромен айсберг. Ние забелязваме само върха на айсберга — съзнанието. Но под повърхността, скрит от погледа, се спотайва много по-голям обект — несъзнаваното, което изразходва огромни количества от „изчислителната мощност“ на мозъка, за да разбира прости неща около него, като проумяването на това къде се намирате, с кого разговаряте и какво има около вас. Всичко това се прави автоматично, без нашето разрешение или знание.

Това е причината, поради която роботите не могат да се придвижват из стая, да четат ръкописи, да карат камиони и коли, да събират боклук и т.н. Американските военни са изхарчили стотици милиони долара в опити да разработят механични войници и интелигентни камиони, но не са постигнали успех.

Учените започнаха да осъзнават, че за играта на шах или за умножаването на огромни числа е нужна само една съвсем малка част от човешкия интелект. Когато през 1997 г. компютърът на Ай Би Ем Дийп Блу победи световния шампион по шах Гари Каспаров по време на среща, състояща се от шест партии, това бе победа на грубата компютърна мощ, но този експеримент не ни казва нищо за интелекта или съзнанието, въпреки че играта доведе до бум на заглавията по първите страници на вестниците. Както каза Дъглас Хофщадтер, учен в областта на компютърните науки от университета в Индиана: „Боже мой, мислех си, че шахът изисква мислене. А сега разбирам, че това не е така. Това не означава, че Каспаров не е дълбок мислител, а само че можете да не вземате под внимание задълбоченото мислене при играта на шах, също така, както можете да летите, без да пляскате с крила.“^[5]

(Разработките в областта на компютрите ще окажат огромно въздействие и върху бъдещето на трудовия пазар. Футуролозите изказват хипотезата, че единствените хора, които ще имат работа след десетилетия, ще бъдат учените в областта на компютърните науки и техниците с големи умения. Но в действителност работници като хората от чистотата, строителните работници, пожарникарите, полицаите и т.н. също ще имат работа в бъдеще, защото това, което вършат, включва модели за разпознаване. Всяко престъпление, парче боклук, инструмент или пожар се различават едно от друго и вследствие на това роботите не могат да се справят в подобна ситуация. По ирония на съдбата работниците с колежанско образование като счетоводителите на ниско равнище, брокерите и касиерите в банки могат да загубят работните си места, защото тяхната работа е полустандартна и включва проследяването на цифри — задача, при изпълнението на която компютрите са превъзходни.)

Освен разпознаването на модели, има и още един проблем. Този проблем при разработването на роботи е още по-фундаментален и се състои в това, че им липсва „здрав разум“. Хората знаят например, че:

— Водата е мокра.

— Майките са по-възрастни от дъщерите си.

— Животните не харесват болката.

— Не се връщате след смъртта.

— Струните могат да се дърпат, а не да се удрят.

— Стиковете могат да удрят, но не могат да дърпат.

— Времето не теча назад.

Но няма линия в математическия анализ или в традиционната математика, която може да даде израз на тези истини. Знаем всичко това, защото сме виждали животни, вода и струни и сме проумели истината самостоятелно. Децата се научават на здрав разум, като се потопяват в реалността. Интуитивните закони на биологията и физиката се научават по трудния начин — чрез взаимодействие с реалния свят. Но роботите не са го преживели. Те знаят само онова, което е било програмирано в тях предварително.

(В резултат на това работните места в бъдеще ще включват и тези, които изискват здрав разум, т.е. творчески способности в областта на изкуствата, оригиналност, актьорски талант, чувство за хумор, аналитичност и лидерски умения. Тези качества ни правят уникални като хора и при възпроизвеждането им компютрите се натъкват на затруднения.)

В миналото математиците са се опитвали да качат на компютър ударна програма, която може да събере веднъж завинаги всички закони на здравия разум. Най-амбициозният опит е CYC (статии за енциклопедия), която е продукт на мисълта на Дъглас Ленат — ръководител на „Сайкорп“. Подобно на „Проекта Манхатън“, струващата 2 милиарда долара ударна програма, довела до конструирането на атомната бомба, CYC трябвало да бъде „Проектът Манхатън“ за изкуствения интелект, финалният тласък, който да доведе до създаването на истински изкуствен интелект.

Не е учудващо, че мотото на Ленат е „Интелектът — това са 10 милиона правила“.^[6] (Ленат разполага с непознат досега начин, по който да открива нови закони на здравия разум. Той кара персонала си да изчете на компютъра страниците на скандалните таблоиди и на долнопробните вестници, публикуващи клюки и евтини сензации. След това пита CYC дали може да открие грешки в таблоидите. И действително, ако Ленат постигне успех в това начинание, CYC може наистина да стане по-интелигентен от повечето читатели на таблоиди.)

Една от целите на CYC е да достигне „момента на равенство“, т.е. момента, в който един робот ще бъде в състояние да разбира достатъчно, за да може да възприема самостоятелно нова информация само като чете списанията и книгите, откривани във всяка библиотека. В този момент, подобно на малко птиче, което напуска гнездото, CYC ще бъде в състояние да размаха криле и да излети самостоятелно.

Но откакто фирмата е основана през 1984 г., доверието в нея страда от един общ с AI проблем: правене на прогнози, които водят до появата на заглавия на първа страница, но са нереалистични до налудничавост. Ленат предрича, че след десет години — през 1994 г., CYC ще съдържа между 30 и 50 процента от информацията за „консенсусната реалност“. Днес CYC изобщо не е близо до постигането на тази цел. Както са установили учените от „Сайкорп“, трябва да бъдат програмирани милиони и милиони кодирани линии, за да се приближи един компютър до здравия разум на четиригодишно дете. Засега последната версия на програмата CYC съдържа само незначителните 47 000 понятия и 306 000 факти. Въпреки редовно публикуваните в пресата оптимистични изявления на „Сайкорп“, един от сътрудниците на Ленат — Р. В. Гъха, който напусна екипа през 1994 г., е цитиран, когато казва: „По общо мнение CYC е провалил се проект… Ние се погубвахме в опитите си да създадем бледа сянка на това, което бе обещано.“^[7]

С други думи, опитите да бъдат програмирани всички закони на здравия разум в един-единствен компютър са довели до това объркано положение само защото има толкова много закони на здравия разум. Хората научават тези закони без усилие, защото ние, колкото и да е досадно, продължаваме да се потопяваме в околната среда през целия си живот, като усвояваме спокойно законите на физиката и биологията, но роботите няма как да го правят.

Основателят на „Майкрософт“ Бил Гейтс признава: „Оказа се много по-трудно, отколкото очаквахме, да дадем възможност на компютрите и роботите да усетят каква е тяхната околна среда и да реагират спокойно и правилно… Например да придобият способности за ориентация спрямо предметите в една стая, за отговор на звуци и за тълкуване на реч, както и за хващане на предмети с различна големина, консистенция и чупливост. Дори толкова просто нещо като посочването на разликата между една отворена врата и прозорец може да бъде дяволски трудно за един робот.“^[8]

Защитниците на подхода „отгоре-надолу“ към изкуствения интелект обаче изтъкват, че напредъкът в тази насока, макар и да е бавен, все пак е налице в лабораториите по света. През последните няколко години например Отбранителната агенция за напреднали изследователски проекти (DARPA), която често финансира технологични проекти, отчитащи сегашното технологично равнище на усложненост, е отпуснала награда от 2 милиона долара за създаването на безмоторно превозно средство, което може да се придвижва самостоятелно по неравен терен в пустинята Мохаве. През 2004 г. нито една кола, която се включи в Голямото предизвикателство на DARPA, не завърши състезанието. На практика най-добре конструираната кола успя да измине 7,4 мили (ок. 13 км), преди да се счупи. Но през 2005 г. безмоторната кола на Станфордския състезателен екип измина успешно мъчителния преход от 132 мили (около 240 км въпреки че на колата й трябваха седем часа, за да постигне това). Четири други коли също завършиха състезанието. (Някои критици отбелязват, че правилата позволяват на колите да използват GPS навигационни системи по дълъг пустинен път. Фактически колите използват предварително начертана пътна карта и затова така и не им се наложи да се сблъскат със сложни препятствия по пътя. При истинското каране колите трябва да се движат непредсказуемо покрай други коли, пешеходци, строежи, задръствания на трафика и т.н.)

Бил Гейтс изразява предпазлив оптимизъм, когато казва, че машините роботи могат да се окажат „следващото голямо нещо“. Той оприличава областта на роботиката днес на областта на персоналните компютри, на която той е помогнал да се развие и напредне преди тридесет години. Подобно на персоналните компютри, и тя ще бъде подготвена за полет. „Никой не може да каже със сигурност кога — или дали — тази индустрия ще достигне критичната маса — пише той, — но ако тя го постигне, това може да промени света.“^[9]

(Щом роботите с човекоподобен интелект станат достъпни в търговско отношение, пред тях ще се разкрие огромен пазар. Въпреки че днес не съществуват истински роботи, препрограмираните роботи съществуват и са доста разпространени. По оценки на Международната федерация за роботика през 2004 г. е имало 2 милиона от тези персонални робота, а още 7 милиона са инсталирани до 2008 година. Японската роботна асоциация предсказва, че до 2025 г. персоналната роботна индустрия, която днес е на стойност 5 милиарда долара, ще достигне стойност от 50 милиарда долара годишно.)

Подходът „дъно-връх“

Поради ограниченията на подхода „отгоре-надолу“ към изкуствения интелект отдавна се правят опити за използване на подхода „дъно-връх“, т.е. за имитиране на еволюцията и на начина, по който се учи едно бебе. Насекомите например не се движат, като сканират околната среда и намаляват изображението до трилиони трилиони пиксела, които обработват със суперкомпютри. Вместо това мозъците им са съставени от „неврални мрежи“, обучаващи се машини, които бавно научават как да се движат в един враждебен свят чрез потопяване в него. Учените от МТИ се натъкнали на безброй трудности при създаването на ходещи роботи чрез подхода „отгоре-надолу“. Но простите инсектоидни механични създания, които се потопяват в околната среда и се учат от грешките си, могат да се лутат успешно по пода на МТИ в продължение на няколко минути.

Директорът на прочутата Лаборатория за изкуствен интелект към МТИ Родни Брукс, който се е прославил със своите огромни, тромави „горе-долу“ вървящи роботи, станал еретик, когато проучил идеята за съвсем малки „инсектоидни“ роботи, които се учат да ходят по старомодния начин, чрез спъване и блъскане в различни неща. Вместо да използва сложни компютърни програми, за да изчислява по математически път точното положение на краката им, докато вървят, неговите инсектоиди координират движенията на краката си на принципа проба-грешка с минимална изчислителна мощност. Днес много от потомците на инсектоидните роботи на Брукс се намират на Марс, където събират данни за NASA, лутайки се из неприветливия марсиански ландшафт със свой собствен разум. Брукс е убеден, че неговите инсектоиди са идеалните кандидати за изследователи на Слънчевата система.

Един от проектите на Брукс е COG — опит за създаването на механичен робот с интелекта на шестмесечно дете. COG изглежда като плетеница от жици, електрически вериги и различни приспособления, като изключим факта, че има глава, очи и ръце. В него не са програмирани никакви закони на интелекта. Вместо това той е проектиран да съсредоточава погледа си върху човека, който го обучава и който се опитва да го научи на прости умения. (Една изследователка, която забременя по време на експериментите, се обзаложи кой ще се учи по-бързо — COG или нейното дете до двегодишна възраст. Детето надмина много COG.)

Въпреки всичките успехи в имитирането на поведението на насекомите, роботите, използващи неврални мрежи, се справят зле, когато програмистите се опитват да възпроизведат в тях поведението на по-висши организми като бозайниците например. Най-усъвършенстваният робот, използващ неврална мрежа, може да върви из стая или да плува във вода, но не може да скача и да ловува като куче в гората, или да притичва из стаята като плъх. Големите неврални мрежи на много роботи могат да се състоят от десетки или може би стотици „неврони“, но човешкият мозък има над 100 милиарда неврона. C. elegans, много прост червей, чиято нервна система е напълно картографирана от биолозите, има само над 300 неврона в своята нервна система, което прави от нея може би една от най-простите, срещани в природата. Но между тези неврони има повече от 7 000 синапса. Колкото и да е прост C. elegans, неговата нервна система е толкова сложна, че досега никой не е успял да изгради компютърен модел на мозъка му. (През 1988 г. един компютърен експерт предсказа, че досега трябваше да имаме роботи с около 100 милиона изкуствени неврона. В действителност неврална мрежа със 100 неврона се смята за изключителна.)

Най-голямата ирония се крие във факта, че машините могат без усилие да изпълняват задачи, които хората смятат за „трудни“, като умножаването на големи числа или играта на шах, но се объркват напълно, когато поискате от тях да изпълнят задачи, които са изключително „лесни“ за човешките същества, като ходенето из стая, разпознаването на лица или клюкарстването с приятели. Причината е, че дори най-модернизирани компютри в основата си са просто изчислителни машини. Нашият мозък обаче е проектиран прекрасно от еволюцията да решава земните проблеми, свързани с оцеляването, които изискват цяла сложна архитектура на мисълта като здравия разум и разпознаването на модели. Оцеляването в гората не е зависело от висшата математика или шаха, а от избягването на хищници, откриването на брачни партньори и приспособяването към променящата се околна среда.

Марвин Мински от МТИ, един от първоначалните изобретатели на AI, обобщава проблемите по следния начин: „Историята на AI е много забавна, защото първите истински постижения бяха прекрасни неща като машини, които можеха да привеждат доказателства в областта на логиката или да се справят добре с курса по висша математика. Но след това започнахме да се опитваме да правим машини, които да отговарят на въпроси, свързани с простичките разкази в учебниците за първи клас. Но и до днес няма машина, която да може да прави това.“^[10]

Някои вярват, че накрая ще настъпи синтез между двата подхода, „отгоре-надолу“ и „дъно-връх“, който ще ни даде ключа към изкуствения интелект и човекоподобните роботи. В края на краищата, когато едно дете се учи, макар и първоначално да разчита главно на подхода „дъно-връх“, като се потопява в околната среда, накрая то получава инструкции от родителите си, от книгите и учителите, и започва да се обучава по подхода „отгоре-надолу“. Щом станем пълнолетни, ние постоянно смесваме тези два подхода. Един готвач например научава какво трябва да прави от рецептата, но също така постоянно опитва ястието, докато то се готви.

Ханс Моравец казва: „Напълно интелигентни машини ще се появят, когато бъде забит златния клин, който да обедини усилията“, което ще стане вероятно в рамките на следващите четиридесет години.^[11]

Емоционални роботи?

Постоянно изникваща тема в литературата и изкуството е механичното същество, което копнее да стане човек, да споделя човешките емоции. Недоволно от факта, че е направено от жици и студена стомана, то желае да се смее, да плаче и да изпитва всички емоционални удоволствия като едно човешко същество.

Пинокио например бил кукла, която искала да стане истинско момче. Тенекиеният човек във „Магьосникът от Оз“ искал да има сърце. А Дейта в „Стар Трек“ е робот, който надминава всички хора по сила и интелект, но копнее да стане човек.

Някои дори твърдят, че нашите емоции са най-висшето качество от всичко това, което означава да бъдеш човек. Според тях нито една машина никога няма да бъде в състояние да се изпълни с трепет при ослепителен залез или да се засмее на весела шега. Невъзможно е машините някога да имат емоции, тъй като емоциите представляват връхната точка на човешкото развитие.

Но учените, които работят върху AI и се опитват да категоризират емоциите, рисуват различна картина. За тях емоциите, далеч от това да са същността на човешкия род, в действителност са страничен продукт на еволюцията. По-просто казано, емоциите ни се отразяват добре. Те са ни помогнали да оцелеем в гората и дори днес ни помагат да се справяме с опасностите в живота.

Например „харесването“ на нещо е много важно в еволюционно отношение, защото повечето неща са вредни за нас. От милионите предмети, на които се натъкваме всеки ден, само някои са полезни за нас. Вследствие на това да „харесаш“ нещо означава да правиш разлика между едно от съвсем малката група неща, които могат да ни помогнат да постигнем успех в борбата срещу милионите неща, които биха ни наранили.

Подобно на това ревността е важна емоция, защото нашият репродуктивен успех е жизненоважен за запазването на нашите гени в следващото поколение. (Всъщност именно по тази причина сексът и любовта са заредени с толкова емоции и чувства.)

Срамът и разкаянието са важни, защото ни помагат да придобием социализиращи умения, необходими за съществуването в общество, чиито членове си сътрудничат взаимно. Ако никога не казваме, че съжаляваме, накрая ще бъдем изгонени от племето, което ще намали шансовете ни да оцелеем и да прехвърлим в следващото поколение нашите гени.

Самотата също е крайно важна емоция. На пръв поглед самотата изглежда ненужна и излишна. В края на краищата ние можем да живеем сами. Но копнежът да бъдеш със себеподобни също е важен за нашето оцеляване, тъй като зависим от ресурсите на племето.

С други думи, когато роботите станат по-усъвършенствани, те също биха могли да бъдат снабдени с емоции. Може би роботите ще бъдат програмирани да имат връзка със своите собственици или надзиратели, която да гарантира, че няма да бъдат изхвърлени на бунището. Притежаването на подобни емоции би улеснило техния прием в обществото, така че да бъдат полезни спътници, а не съперници на своите собственици.

Компютърният експерт Ханс Моравец вярва, че роботите ще бъдат програмирани с емоции като „страха“, за да се защитават. Например, ако батериите на един робот се изтощят, той би проявил тревога или дори паника със сигнали, които могат да бъдат разпознати от хората. Той би отишъл до съседите и би помолил да използва техния контакт с думите: „Моля ви! Моля ви! Имам нужда от това! Толкова е важно и струва евтино! Ще ви възстановим разходите!“^[12]

Емоциите са жизненоважни и при вземането на решения. На хората, които са получили определен вид мозъчно увреждане, им липсва способността да изпитват емоции. Тяхната способност да разсъждават е непокътната, но те не могат да дават израз на никакви чувства. Неврологът доктор Антонио Дамасио от Медицинския колеж към университета в Айова, който е изследвал хора с такива мозъчни увреждания, стига до заключението, че те „знаят, но не чувстват“.^[13]

Доктор Дамасио открива, че подобни индивиди често се вцепеняват при вземането и на най-маловажните решения. Без да притежават емоции, които да ги ръководят, те обсъждат безкрайно една или друга възможност за избор, което довежда до пагубна нерешителност. Един пациент на доктор Дамасио прекарал половин час в опити да определи датата на следващата им среща.

Учените са убедени, че емоциите се обработват в „лимбичната система“ на мозъка, която е разположена дълбоко в центъра на нашия мозък. Когато хората страдат от загуба на връзка между неокортекса (който управлява рационалното мислене) и лимбичната система, способността им да разсъждават е непокътната, но не притежават емоции, които да ги ръководят при вземането на решения. Понякога имаме „интуитивно чувство“ или „емоционална реакция“, която ускорява вземането на решения. Хората с увреждания, които засягат връзката между рационалната и емоционалната част на мозъка, не притежават тази способност.

Например, когато отиваме на пазар, несъзнателно правим хиляди оценъчни съждения за почти всичко, което виждаме, като: „Това е твърде скъпо, твърде евтино, твърде цветно, напълно излишно или много необходимо.“ За хора с този тип мозъчно увреждане пазаруването може да се превърне в кошмар, защото всичко сякаш има една и съща стойност.

Докато роботите стават по-интелигентни и придобиват способността да правят избор, те биха могли също да бъдат парализирани от нерешителността. (Това напомня притчата за магарето, което седяло между два купа сено и накрая умряло от глад, защото не могло да реши кой от тях да изяде.) За да им се помогне, роботите в бъдеще трябва да бъдат снабдени с емоции, вградени в мозъците им. Коментирайки липсата на емоции у роботите, доктор Розалинд Пикард от Лабораторията „Медия“ към МТИ казва: „Те не могат да преценят кое е най-важното. Това е един от най-големите им недостатъци. Компютрите просто не разбират това.“^[14]

Както пише великият руски романист Фьодор Достоевски: „Ако всичко на Земята беше разумно, нямаше да се случва нищо.“^[15]

С други думи, роботите в бъдеще може би ще се нуждаят от емоции, за да си поставят цели и за да осмислят и структурират своя „живот“, иначе ще се окажат парализирани от перспективата да бъдат изправени пред безкрайно много възможности.

Имат ли те съзнание?

Няма всеобщо съгласие по въпроса дали машините могат да имат съзнание и дори какво означава думата „съзнание“. Никой досега не е предложил подходяща дефиниция на понятието „съзнание“.

Марвин Мински описва съзнанието като „общество на разуми“, т.е. мисловният процес в нашия мозък не е локализиран, а разпръснат, като различни центрове се състезават помежду си по всяко време. В такъв случай съзнанието може да се разглежда като серия от мисли и образи, които се излъчват от тези различни по-малки „разуми“, като всеки от тях се бори и състезава за нашето внимание.

Ако това е вярно, може би „съзнанието“ се надценява, може би има прекалено много научни изследвания, посветени на тема, обгърната от прекалена тайнственост от философите и психолозите. Може би дефинирането на съзнанието не е толкова трудно. Както казва Сидни Бренър от Института „Салк“ в Ла Джола: „През 2020 г. съзнанието ще е изчезнало като научен проблем… Нашите приемници ще бъдат изумени от количеството научни безсмислици, които се обсъждат днес — и то, ако имат търпението да се заровят в електронните архиви на старите списания.“^[16]

Изследването на AI страда от „завистта на физиците“, според Марвин Мински. Във физиката откриването на Светия граал е равнозначно на откриването на просто уравнение, което ще обедини физическите сили във Вселената в една-единствена теория, създавайки „теория на всичко“. Изследователите на AI, които били повлияни изключително много от тази идея, се опитват да открият една-единствена парадигма, която да обясни съзнанието. Но подобна проста парадигма може да не съществува.

(Тези, които се числят към „конструктивистката“ школа като мен, вярват, че вместо да се обсъжда безкрайно дали могат да бъдат създадени мислещи машини или не, човек просто трябва да се опита да конструира такава. Що се отнася до съзнанието, то вероятно има континуум от съзнания, като се започне от един скромен термостат, който отчита температурата в стая, и се стигне до самоосъзнаващите се организми, които сме ние днес. Животните могат да имат съзнание, но те не притежават равнището на съзнание на едно човешко същество. Затова човек трябва да се опита да категоризира различните типове и равнища на съзнанието, вместо да обсъжда философски въпроси за ролята на съзнанието. Може би роботите в крайна сметка ще придобият „силициево съзнание“. Всъщност един ден роботите могат да включат в себе си архитектура за мислене и за обработване на информация, различна от нашата. В бъдеще усъвършенстваните роботи може би ще замъглят разликата между синтаксиса и семантиката, така че техните отговори няма да се различават от отговорите на един човек. Ако е така, въпросът дали те наистина „разбират“ въпроса, ще стане неуместен до голяма степен. Робот, който владее съвършено синтаксиса за всички практически цели, разбира това, което се казва. С други думи, съвършеното познаване на синтаксиса се равнява на разбиране.)

Могат ли роботите да бъдат опасни?

Заради закона на Мур, според който компютърната мощност се удвоява на всеки осемнадесет месеца, можем да си представим, че в рамките на няколко десетилетия ще бъдат създадени роботи, които ще притежават интелекта, да речем, на куче или котка. Но през 2020 г. законът на Мур може да загуби валидността си и епохата на силиция да приключи. През последните петдесет години или горе-долу такъв период смайващото нарастване на компютърната мощност се е захранвало от способността за създаване на съвсем малки силициеви транзистори, десетки милиони от които лесно могат да се поберат върху нокътя на пръста ви. За гравирането на микроскопичните транзистори върху пластини, направени от силиций, се използват ултравиолетови лъчи. Но този процес не може да продължава вечно. Накрая тези транзистори ще станат толкова малки, че ще достигнат големината на молекула и процесът ще се прекрати. Силиконовата долина ще се превърне в нещо ненужно и отживяло след 2020 г., когато епохата на силиция накрая приключи.

Чипът Pentium във вашия лаптоп има слой с диаметър от около двадесет атома. През 2020 г. този чип би могъл да се състои от слой с диаметър само от пет атома. В този момент започва да действа принципът на неопределеността на Хайзенберг и вие вече не знаете къде се намира електронът. В такъв случай електричеството ще изтече от чипа и компютърът ще направи късо съединение. В този момент компютърната революция и законът на Мур ще се споминат заради законите на квантовата революция. (Някои хора твърдят, че дигиталната ера е „победа на битовете над атомите“. Но накрая, когато достигнем ограничението на закона на Мур, атомите ще си отмъстят.)

Днес физиците работят върху постсилициевата технология, която ще доминира в компютърния свят след 2020 г., но досега са постигнали противоречиви резултати. Както видяхме, проучени са най-различни технологии, които могат евентуално да заменят силициевата технология, като в това число влизат квантовите компютри, ДНК компютрите, оптичните компютри, атомните компютри и т.н. Но всяка от тях се изправя пред огромни препятствия, преди да се наметне с мантията на силициевите чипове. Манипулирането на отделните атоми и молекули е технология, която все още е в пелени, затова изработването на милиарди транзистори, които имат размера на атоми, е отвъд нашите възможности.

Но допуснете за миг, че физиците са в състояние да запълнят празнината между силициевите чипове и, да речем, квантовите компютри. И допуснете, че някаква форма на закона на Мур продължава да действа в постсилициевата ера. В такъв случай изкуственият интелект може да се превърне в реална възможност. В този момент роботите биха могли да овладеят човешката логика и емоции и да издържат по всяко време теста на Тюринг. Стивън Спилбърг е изследвал този въпрос в своя филм „Изкуствен интелект“ (AI), за първото момче-робот, което може да проявява емоции и вследствие на това е подходящо за приемане в човешко семейство.

Това повдига въпроса могат ли да бъдат опасни такива роботи. Отговорът вероятно е да. Те биха могли да станат опасни, щом притежават интелекта на маймуна, която се самоосъзнава и може да прави собствени планове за разпределение на времето си. Може би ще бъдат необходими десетилетия за достигането на този момент, затова учените ще разполагат с много време, за да наблюдават роботите, преди те да се превърнат в заплаха. Например в техните процесори би могло да се постави специален чип, който да им пречи да буйстват. Или пък да имат механизъм за самоунищожаване или дезактивиране, който да ги изключва в критична ситуация.

Артър Ч. Кларк е писал: „Възможно е да станем домашни любимци на компютрите, като водим съществуването на разглезени същества като галените кученца например, но се надявам, че винаги ще запазим способността да извадим щепсела, ако усетим, че става нещо подобно.“^[17]

По-непосредствена заплаха е зависимостта на инфраструктурата от компютрите. Водната и електрическата мрежа, да не говорим за транспортната и комуникационната мрежа, ще се компютризират все по-усилено в бъдеще. Градовете са станали толкова сложни, че само сложни и заплетени компютърни мрежи могат да регулират и контролират огромната инфраструктура. В бъдеще ще е все по-важно да се добавя изкуствен интелект към тази компютърна мрежа. Един провал или повреда във всепроникващата компютърна инфраструктура може да парализира даден град, страна или дори цивилизация.

Дали компютрите накрая ще ни надминат по интелигентност? Ами сигурно, защото в законите на физиката няма нищо, което да пречи на това. Ако роботите са неврални мрежи, способни да се учат, и те се развият до момента, в който ще могат да се учат по-бързо и по-ефективно от нас, то тогава е логично в крайна сметка да ни надминат по разсъдъчна способност. Моравец казва: „(Постбиологичният свят) е свят, в който човешкият род ще бъде унищожен напълно от прилива на културалната промяна — свят, узурпиран от нашето собствено изкуствено потомство… Когато това се случи, нашето ДНК ще се окаже без работа, тъй като ще е загубило еволюционното състезание в един нов вид надпревара.“^[18]

Някои изобретатели, като Рей Кърцуайл, дори са предричали, че това време ще настъпи скоро, като това събитие ще протече още в рамките на следващите няколко десетилетия. Може би в момента създаваме нашите еволюционни приемници. Някои учени в областта на компютърните науки си представят момента, наричан „сингулярност“, когато роботите ще бъдат в състояние да обработват информацията експоненциално бързо, създавайки по време на този процес нови роботи. Така тяхната колективна способност да поглъщат информация ще нарасне почти безгранично.

Затова в дългосрочен план някои са се изказвали в защита по-скоро на сливането на въглеродната и силициевата технология, отколкото просто да чакаме да изчезнем.^[19] Ние, хората, сме основани предимно на въглерода, а роботите са основани на силиция (поне за момента). Може би решението е да се слеем с нашите творения. (Ако някога се срещнем с извънземни, не трябва да се изненадваме, ако открием, че те са частично органични и частично механични същества, за да издържат трудностите при пътуването в Космоса и за да доминират във враждебна среда.)

В далечното бъдеще роботи или човекоподобни киборги могат дори да ни дадат дара на безсмъртието.^[20] Марвин Мински добавя: „Ами ако слънцето угасне или ние унищожим планетата? Защо да не изобретим по-добри физици, инженери или математици? Може да ни се наложи да бъдем архитектите на нашето собствено бъдеще. Ако не го направим, културата ни може да изчезне.“

Моравец си представя време в далечното бъдеще, когато нашата неврална архитектура ще бъде прехвърлена, неврон по неврон, директно в една машина, което в известен смисъл ще ни дари безсмъртие. Това е налудничава мисъл, но не е отвъд царството на възможностите. Така че според някои учени, които си представят далечното бъдеще, безсмъртието (във формата на ДНК усилени или силициеви тела) може да бъде окончателното бъдеще на човечеството.

Идеята за създаване на мислещи машини, които са поне толкова умни, колкото животните, и може би толкова умни или по-умни от нас, може да се превърне в реалност, ако успеем да преодолеем излизането от сила на закона на Мур и проблема със здравия разум, което може би ще стане в края на този век. Въпреки че фундаменталните закони на AI са в процес на откриване, напредъкът в тази област протича изключително бързо и обещаващо. Като се има предвид това, бих класифицирал роботите и другите мислещи машини като спадащи към Клас I на невъзможните неща.