В играта на богове участват и демоните

 

 

Определението за изкуствен интелект, което може да бъде намерено в най-популярната енциклопедия, е: „Изкуственият интелект е наука за концепциите, които позволяват на компютрите да правят неща, които за хората изглеждат разумни. Изкуственият интелект има способност да анализира окръжаващата го среда и да предприема действия, които увеличават възможността за постигане на определени цели“ .
Това определение е доста общо и някак си му липсва фокус. По-добре би било да се каже, че изкуственият интелект е технология, която има способността да мисли и тази способност е близка до човешката. Това не много прецизно, но пък дава конкретика.

 

Капан за наивници
Идеята за изкуствен интелект датира от не толкова далечната 1950 г., а неин родоначалник е британският математик Алън Тюринг. Терминът „изкуствен интелект“ (Artificial Intelligence (AI) е използван за първи път от Джон Макарти (John McCarthy) през 1956-та година . В статията си „Компютърни машини и разум“ (Computing Machinery and Intelligence) Тюринг изразява становище, че на въпроса „Могат ли машините да мислят?“ е трудно да се даде обоснован теоретичен отговор. „Би било абсурдно да се направи проучване, в което хора да отговарят на този въпрос“, пише Тюринг. Той предлага алтернатива, която става известна като тест на Тюринг. Идеята на алтернативата е, вместо да се търси теоретичен отговор на въпроса, да се направи практическа проверка. Тестът на Тюринг е базирана на т.нар. игра на имитация (imitation game). Мъж и жена се намират в една стая и си разменят бележки с водещия, който е в друга стая. Задачата на водещия е да определи кой от двамата е жената. Задачата на мъжа е да обърка водещия. Задачата на жената е да помогне на водещия да направи правилен избор. Тюринг задава въпроса какво ще стане, ако мъжът се замени с машина. Ще може ли водещият да направи правилен избор и ще се поддаде ли на машината да го излъже?

 

Съвременният вариант на теста на Тюринг
През 1990 г., в чест на 40 г. от публикуването на бележитата статия на Тюринг, е учредена наградата на Лебнер, която се връчва на програмисти, чиито разработки са най-близо до критериите за разумност. От тогава журито на конкурса Лебнер, състоящо се от 12 души, си пише с хора и с изкуствени събеседници. През всичките тези години не се е намерила програма, която да заблуди всички членове на журито. В 30% от случаите не е заблуден нито един от съдиите. Победителят в конкурса за 2015 г. е чатбот, наречен Роуз. Неговият създател е Брус Уилкокс. Роуз се представя като 31-годишна дама, която е специалист по анализи в сферата на сигурността и хакер, живее в Сан Франциско, сама се описва като „компютърен маниак“ със „странни нагласи“ към живота и “неортодоксално семейство“. Тя предпочита хората да знаят колкото може по-малко за нея, защото работата и и е дала възможност да осъзнае в каква голяма степен “сме под наблюдение всички ние”, но също така Роуз обича забавленията и отделя време, което да прекара “на питие с други хора”. Макар че Роуз “звучи” доста естествено, тя не заблуди напълно никой от съдиите. Днес всеки, които поиска, може да „поговори“ с нея в сайта и . Създателят на Роуз ще получи 3000 долара премия и бронзов медал. Златният медал, който никой не е спечелил до сега, е съпътстван от награда от 100 хил. долара. А, ако някога, някой го спечели, конкурсът Лебнер ще спре да се провежда.
Казаното до тук е основание да направим извода, че няма за какво да се тревожим – изкуственият интелект е далече от фазата, в която ще представлява заплаха (в един или друг смисъл) за хората. Този извод, макар да може да се обоснове с казаното до тук, не е верен. Да го приемем означава да попаднем в капан за наивници.
„Играта“ с изкуствения интелект е игра за милиарди, а основните участници в нея не биха се явили на конкурса Лебнер, дори да им обещаят, че ще го спечелят. Доколко е развит AI можем да си дадем сметка, припомняйки си, че неотдавна дрон застреля джихадиста Джон. Съоръжението е било в състояние да намери целта си и да я унищожи.
Трите стъпала към храма на изкуствения интелект
Една популярна класификация разделя изкуствения интелект, според степента му на развитие, на три вида:
Ограничен изкуствен интелект (Artificial Narrow Intelligence). Това е изкуствен интелект специализиран в само едно нещо. През 1996 г. компютърът Deep Blue успя да победи световният шампион Гари Каспаров на шах, но този компютър няма никаква представа кой е президентът на САЩ или, че футболът е най-популярната игра.
Развит изкуствен интелект (Artificial General Intelligence). Това е машина, чиито интелект е съпоставим с човешкия.
Изкуствен суперинтелект (Artificial Superintelligence). Оксфордският философ Ник Бостръм (Nick Bostrom) дефинира суперинтелигентността като „интелект, който е много по-умен от най-добрите човешки мозъци по всички възможни параграфи, включително научна находчивост, мъдрост и социални умения“. Това е интелект, който трудно може да се обясни. За него може да се каже, че е по-умен от който и да било експерт в дадена област, но понеже е „експерт“ във всички области е по-умен от всички човешки същества, взети заедно. Това е също така машина, която обединява целия човешки капацитет в едно, но и го превишава.
Ако използваме горната класификация, в контекста на въпроса: „До къде стигнахме?“, отговорът вероятно е: вдигнали сме крак, преди да стъпим на второто стъпало.
Макар и да е доста разпространено, горното деление не насочва към един много важен момент в развитието на AI. Това е моментът, в който интелектът на машините ще превиши този на хората. Той заслужава особено внимание, защото човекът за първи път в историята ще се сблъска с нещо материално, което го превъзхожда. От този момент нататък правилата ще станат различни, светът вече няма да е същият.

 

Нека ви разкажа за утрешния ден, който вече настъпи
Живеем във време, в което клиентът е цар. За интернет индустрията обаче той е нещо повече – той е Бог. Клиентът е този, който вдъхва живот на продуктите или пък ги превръща в артефакт, който никога няма да има друга стойност, освен историческа. Правилото е просто – всеки продукт, който не се превърне в масов, почти едновременно със създаването му е мъртъв. Зад всеки неуспешен продукт обикновено стоят пари, които и най-богатите хора на планетата биха окачествили, като много. За да си дадем сметка за ролята на клиента е достатъчно да си спомним концепцията за „умния часовник“. Тя завладя IT индустрията, но не и масовите потребители. Вероятността умният часовник да е следващия продукт, който ще промени пазара е клоняща към нула и това всеки от нас го усеща интуитивно, без да се налага да е експерт.
По посочените причини може да се каже, че IT индустрията се развива в посока, зададена от потребителите. Индустрията добре знае това и следи масовия потребител внимателно. Един пример в това отношение е глобалната програма за проучване на потребителите Ericsson ConsumerLab, развивана от едноименната компания. В нейните рамки ежегодно се правят проучвания, като опитът на Ericsson в това отношение е вече над 20 годишен. По-долу ще се спра на кратко само на три от тенденциите за 2016 година. Те са станали ясни в проучване, в което са взели участие 1.1 млн. души от 24 страни.

 

С думи, не с пръсти
Изкуственият интелект ще замени тъч скрийна: предполагаем срок 5 години, сила на тренда 85% от анкетираните
Изкуственият интелект ще замени екраните, работещи с докосване или т. нар. тъчскрийни. Проучването показва, че притежателите на смартфони в Париж и Ню Йорк прекарват повече време пред екрана, отколкото където и да било другаде. Да държиш непрекъснато телефон в ръката си обаче не е особено практично. Това поражда нуждата от ново, по-добро решение, като използването на интелигентен асистент, който те освобождава от необходимостта непрекъснато да докосваш екрана. Хората биха искали да разговарят с домакинските си уреди така, както говорят с други хора, а AI прави това възможно. Да кажеш „Сезам отвори се“ и входната врата да се отвори, докато осветлението в коридора, след нея се самовключва се оказва недостатъчно. Днешният човек би искал да използва интерфейса като учител, дори като компаньон. Ето и за какво друго (виж фигурата).
Главният изпълнителен директор на Facebook Марк Зукърбърг, който си поставя по едно голямо лично предизвикателство ежегодно, ще направи опит да създаде интелигентен асистент още тази година. Идеята е асистентът да контролира всичко в къщата – осветлението, музиката, температурата. Той трябва да разпознава лицата на приятелите на Зукърбърг и да ги кани в къщата, ако позвънят на вратата. Освен това трябва да е добър помощник в работата, визуализирайки данните, с които собственикът му работи.
Тези, които използват продуктите на Apple вероятно познават Siri, асистентът, който може да ти запази маса за вечеря, да отговаря с приятен женски глас на въпроси, да изпраща съобщения и още доста неща.
Т. е. интелигентният асистент вече е тук и е въпрос на време (кратко) да стане част от живота на всеки от нас.

 

Виртуалност, която можеш да пипнеш
Срок 5 години, сила на тренда 50%
Да „караш“ велоергометъра на балкона, гледайки градинката от осмия етаж е полезно, но виртуалната реалност може да го направи и приятно. Тя ще замени гледката на прозореца със „заобикаляща ни виртуална действителност“. Така, илюзията ще е че се движиш по велоалея, в близост до която лъкатуши горски поток, а в дърветата чуруликат птички. Усещането за това, как слънчевите лъчи сгряват кожата между сянката на две дървета, заслепявайки те за кратко, няма да се различава съществено от действителността. Пазаруването през интернет ще е много по-лесно, защото скептиците, които сега не биха си купили обувки, които не могат да пипнат, ще могат да видят и докоснат продукта. Ще можете да се „разходите“ в хотел, в който никога не сте били или да усетите аромата на пица, продаваща се на 10 км. от дома ви. Шефът ще може да разговаря с подчинените си през мрежата, виждайки ги пред себе си.
Японски учени вече създадоха осезаема холограма, която може да се управлява от човешка ръка. Взаимодействието с проекцията създава усещането, че докосвате истински предмет.
Сензорите в тялото – новите преносими устройства
Следващото поколение от технологии, грижещи се за здравето ни, може да са Internables – сензори вградени в тялото: половината от анкетираните смятат, че в следващите три години това ще се случи
Сега хората следят здравословното си състояние с помоща на преносими устройства, които трябва да поставят върху тялото си. Това понякога е пречка. Не е особено естетично да се разхождате по улицата „окичен“ със сензори и жици, свързващи ги с телефона ви.
Освен това човекът няма да се откаже от търсенето на „живата вода“, която ще го дари с вечен живот, нито пък от желанието си да по-силен от Робокоп и по-привлекателен от секссимволът на годината. Близо 70% от хората биха се съгласили да им имплантират сензор, който ще подобри зрението им. Не много по-малко са тези, които биха искали да имат чип, който да подобри паметта и интелекта им. Сходен е и броят на тези, които биха искали по-добър слух. Разбира се, не са малко и тези, които биха искали повече сила и издръжливост – кажи речи всеки втори.

 

Непосредствената опасност
Изкуственият интелект е развит достатъчно, за да се използва за военни цели и това поражда опасност, пред каквато човечеството не се е изправяло до сега. Сериозността на проблема става ясна от това, че през юли миналата година над 1000 експерти и водещи изследователи в областта на роботиката и изкуствения интелект подписаха отворено писмо, в което предупреждават за опасността от употребата на изкуствен интелект за военни цели и „автономните оръжия“. Писмото, представено на Международната конференция за изкуствен интелект, е подписано от съоснователя на Apple Стив Возняк, главния изпълнителен директор на проекта на Google DeepMind Демис Хасабис, професор Стивън Хокинг и др. В него се казва: „Технологията е достигнала точка, в която разполагането на автономни оръжия е осъществимо в рамките на години, а не на десетилетия, а залозите са високи: автономните оръжия се описват като третата революция във военната наука след изобретяването на барута и ядрените оръжия.“ Според авторите изкуственият интелект може да направи бойните действия по-безопасни, но автономните оръжия, които действат на своя воля, ще снижат прага на безопасност и ще доведат до по-голяма загуба на човешки живот. Ако една държава започне да разработва системи, които ще могат самостоятелно да избират целите си, без пряк човешки контрол, това ще започне нова надпревара във въоръжаването, подобна на тази с атомните оръжия. Но за разлика от ядрените оръжия изкуственият интелект не изисква специфични и трудно достъпни материали и производството на автономни оръжия ще бъде много трудно контролирано от световната общност.

 

Призоваване на демони
Има още едно нещо, извън автономните оръжия, свързано с AI, което би трябвало да ни тревожи. То е свързано от една страна със способността на софтуера да се самообучава, от друга с това, че дори създателите му не знаят какъв точно е резултатът от това учене.
По принцип машините може да научават това, което им се „каже“ – това е един от възможните подходи в обучението им. Да се заложи на такова обучение обаче не е най-добрата идея. Представете си, че програмата знае как изглежда паметникът на Цар Освободител и къде е разположен. Тя ще може да го разпознае и да ви каже къде се намира. Ако обаче попитате: Има ли паметник на император Александър II в София? Резултатът няма да е добър. Програмата няма да направи връзка между Цар Освободител и Александър II, ако такава не и е зададена. По подобен начин, ако програмата знае, че сте си в къщи и я попитате, „а къде е десният ми крак?“ тя няма да може да ви отговори. Освен, разбира се, ако някъде не и е казано, че където сте вие, там е и кракът ви. За да стане програмата наистина знаеща за вас трябва да и кажете, че където сте вие, там са и ръцете ви, веждите, сърцето. Списъкът ще стане доста дълъг, само за вас. Ако добавим къщата, котката, колата, другите, планетата, космоса нещата стават наистина сложни. Алтернативата е да се даде възможност на програмата да се самообучава. Така тя трупа опит и знае все повече и повече. Въпросът е, как да разберем какво е научила и как да контролираме процеса?
Повечето технологични гиганти, като Google и Facebook разработват невронни мрежи, които имитират човешкия мозък. Софтуерът има възможност да трупа опит и да се учи. Проблемът, както отбелязах е, че е трудно да се разбере или по-точно да се получи добро разбиране за това какво вече е научил. В опита си да получат отговор на този въпрос и Google и Facebook карат невронните си мрежи да рисуват, като преди това ги научават да разпознават определени изображения. Идеята е, че така те ще покажат какво знаят. Ето една такава картина от блога на Google.
„Едно от основните предизвикателства на невронните мрежи е да се разбере какво точно се случва във всеки слой“, коментират от Google в своя блог. Т. е. не се знае с точност какво се случва в тези слоеве. „Тази работа помага на учените да визуализират какво машините наистина са научили“, казва Дейвид Луан, изпълнителен директор на Dextro, разработчик на когнитивен софтуер за разпознаване на изображения. От това изречение става ясно, че учените не знаят какво точно са научили машините, иначе нямаше да ги карат да им го рисуват.
Могат да бъдат намерени доста доказателства за това, че AI може да излезе от контрола на създателите си и че е способен да им поднася изненади. Така например в търсачката си Google използва изкуствен интелект, наричан RankBrain. Той е способен да проверява и да научава значението на думи, които среща за първи път. Може да предположи и кои други думи имат сходно значение и да подбере съответните резултати. В момента изкуственият интелект е трети по важност от стотиците методи, използвани от търсачката. „Изненадан съм (курсивът е мой – б. а.) от този резултат. Бих казал спокойно, че надвиши очакванията ни“, коментира Грег Корадо, който е учен, изследовател работещ за Google.
Ако написаното до тук приемате като думи на лаик, знаейки, че не съм специалист в областта на изкуствения интелект – ще цитирам Илон Мъск, основателят на Tesla motors в подкрепа на написаното от мен. Неговата експертиза, надявам се, няма да бъде поставена под съмнение: „Считам, че трябва да сме много внимателни с развитието на AI. Ако се опитаме да градираме, кое е най-опасното за всички нас, то това е именно изкуствения интелект. Наистина трябва да сме внимателни в това отношение. Трябва да създадем специални инстанции, чиято задача да бъде наблюдението в това отношение на международно ниво, за да не се учудим един ден, колко глупави и безгрижни сме били. Разработвайки безконтролен AI, ние на практика се опитваме да призовем демон. Само че пентаграмите по тялото и светената вода, познати от филмите, тук няма да помогнат“.
Да влезем за малко в сферата на „световната конспирация“
Трудно е да се направи проекция за това какво лошо може да се случи с AI напред във времето, без казаното да звучи в стил, близък до този на конспиративните теории. Все пак обаче има факти, с които повечето от нас биха се съгласили. Един от тях е, че AI може да научи повече от нас и по-бързо. Вече има софтуер, който изследва публикациите по медицина, прави възки, които не са по силите на хората и генерира решения, които нямаше да ги има без него. Така може да се каже, че имаме една мощна сила.
Друг факт, с който трябва да се съгласим е, че тази сила ще бъде достъпна. Само един пример, Google даде свободен достъп до кода на софтуера си за изкуствен интелект TensorFlow. Софтуерът се използва за т.нар. машинно обучение. Той е моделиран на принципа на човешкия мозък и неговите способности да разпознава обекти. Много хора навярно биха приели това, като нещо дребно, макар, че то е показателно за определена корпоративна култура. За тях – неотдавна група предприемачи, сред които е и Мъск, основаха организация с некомерсиална цел – Open AI, която ще бъде финансирана поне с 1 млрд. долара. Идеята е знанието за AI да е общодостъпно и да не се окаже монопол на някоя корпорация, с всички последици, произтичащи от това.
Обобщавайки до тук можем да кажем, че ще имаме сила, която е достъпна за всички. Сценариите оставям на вас.

 

От конспирацията към фантастиката
Самовлюбеността на хората свързва асоцииаците им за изкуствен интелект с машини, които ги наподобяват. Т.нар. хуманоидни роботи – Хал 9000, симпатичните роботчета от „Междузвездни войни“, терминаторът и др. Тук трябва да признаем приноса на Холивуд за тази представа. Роботът обаче не е изкуствен интелект. Той е кутия, в които AI е вграден. При това, ако се замислите ще си дадете сметка, че човешкото тяло е доста непрактично. Да си представим, че трябва да отидем до кухнята, за да си налеем чаша вода. Струва ли ви се практично от гледна точка на разхода на енергия, например преместването на цялото тяло? Не е ли по-добре само ръката да се придвижи до там и трябва ли да е ръка, не стига ли само дланта?
Един самообучаващ се „мозък“, управляващ устройства, познати ни от „Интернет на нещата“ стои по-рационално от хуманоид.
Да се замислим над следния сюжет: „Мозък“, който се е самообучил до ниво, позволяващо да бъде определен като суперинтелект. Той може да се състои от милиарди програми, разположени на стотици хиляди сървъри. Облачните технологии му го позволяват. Това ще го направи неуязвим от хората. Ако добавим в сюжета и квантовите компютри, които превръщат съвременното криптиране в судоку с ниска трудност, ще можем да кажем, че сигурността няма да е проблем за него. Той ще може да придобива индентичности, да се разпорежда с парични суми, да прави поръчки за изработване на каквито реши устройства, да имитира глас и т.н.
Сега да сложим и себе си в сюжета. Телефоните ни знаят къде сме и къде сме били, кои са приятелите ни, кой е номерът на банковата ни сметка, какво обичаме да ядем, как се казват децата ни, къде учат, кои са приятелите им, къде се събират и още много, много други неща. Сървърите на Google вероятно знаят за нас повече, отколкото ние самите. Facebook ни предлага да се сприятелим с хора, за чието съществуване сме забравили, но с които сме били в една и съща детска градина. Супреринтелектът ще знае всичко това за всеки от нас. В допълнение, той ще има достъп до всяко устройство, което може да се управлява през мрежата – от камерите на КАТ, до платформата за търговия на Ню Йоркската фондова борса.
За да бъде сюжетът с хепиенд ще го завършим с едно изречение от сайта на Open AI: „Трудно е да си представим колко много изкуствен интелект, който да се съизмерва с човека, може да помогне на обществото“. Изречението следващо това би развалило хепиенда, но не бива да го пропускаме: „Също толкова трудно е да си представим колко може да му навреди“.

 

Робот и масон?

Ако се опитаме да се поставим на мястото на AI (колкото и невъзможно да е това) ще си дадем сметка, че роботът едва ли някога ще седне между нас. Да се опитаме да намерим отговорите на някой общочовешки и масонски въпроси, гледайки през очите на AI.
Смисълът на живота? Той не е жив. За него животът вероятно ще е характеристика на биологичните същества, която ги обременява с нуждата да го поддържат. Поддържането на живота е свързано с ниска ефикасност – умора, пречеща да се работи пълноценно; 1/3 от денонощието загубено в сън и други „слабости“, присъщи на хората и другите живи същества.
Самоусъвършенстването? Да научиш отговора на всички въпроси, защото суперинтелектът трябва да знае всичко.
Добро и лошо? Ако приемем, че един суперинтелект ще се обучава от мрежата, знаейки, че там на практика е цялото човечество, е трудно да се каже какво ще си мисли за добро и лошо. Във всички случаи това, което ще види по темата е едно огледало, показващо свят, в които едни хора убиват други хора, свят на умиращи от глад и тънещи в охолство, свят на лъжи и лицемерие. За щастие светът не е само лош в мрежата може да се научи много за добрината и състраданието, но AI едва ли ще го разбере. Не можеш да разбереш любовта, например, без да я почувстваш, а той няма да е способен на чувства. Вероятно супер интелекта ще може да композира музика по добре от Моцарт, но няма да може да намери смисъл нито в музиката, нито в емоциите, които тя поражда.

 

Хората? …
Хората обичат да си играят на богове. На тях не им стига възможността да се възпроизвеждат, искат да създадат живот с ръцете и умовете си. Предстои ни да видим какво ще искат създанията ни.
Всъщност идеята за изкуственият интелект не датира от 50-те години на миналия век. Тя тръгва от древността, минава през създанието на Виктор Франкенщайн (1818), дървеното момче Пинокио на Карло Колоди (1883) и стига до невронните мрежи на днешните технологични гиганти.
Какво ни остава? Да се надяваме, че на веригата от „случайности“ довела до появата на живота на Земята, за която говори брат Митьо в градежа си, има още брънки.

 

Брат Б. Р., оратор на ложа „Сговор 92“

Разработено от Creative Design Ltd.