Драган Бисенић НСПМ
Иако је целу своју каријеру посветио традиционалним питањима дипломатије, међународних односа и историје, бивши државни секретар САД и нобеловац Хенри Кисинџер у својој 98. години има потпуно нову област интересовања, технолошки најсавременију и најмање познату: вештачку интелигенцију. Постао је заинтригиран за ову тему 2016. године, након што га је Ерик Шмит, тада извршни председник Гугла, убедио да присуствује једном предавању на Билдерберг конференцији.
Мало је фалило да Кисинџер пропусти ту сесију – пошто се налазила изван његових уобичајених интересовања – али га је почетак презентације задржао на столици.
Говорник је описао рад компјутерског програма који ће ускоро моћи да се надмеће са светским првацима у игри „го“. Будући да је све што се тиче Кине привлачило Кисинџерову пажњу, и да је и сам писао о сложености игре „го“ и њеном значењу за кинеску спољнополитичку доктрину, Кисинџер је остао на предавању. Био је зачуђен сазнањем да би компјутер могао да овлада „гоом“, који је комплекснији од шаха. У њему сваки играч поседује 181 или 180 каменчића (у зависности од боје коју одабере) наизменично размештених на претходно празној табли, а победа иде оној страни која, доносећи боље стратешке одлуке, паралише противника ефективнијом контролом територије.
Машина је, како је предавач рекао, овладала вештином играња тиме што је саму себе увежбала. Познајући основна правила „гоа“, компјутер је одиграо безброј игара против самог себе, учећи на сопственим грешкама и тако унапређујући своје алгоритме. У току тог процеса је превазишао вештине својих људских ментора.
И заиста, у месецима након овог говора, програм вештачке интелигенције назван „Алфа Го“ убедљиво је победио највеће светске играче „гоа“.
Perpetuum mobile у политици
Док је слушао како говорник слави овај технички прогрес, искуство историчара и повременог државника навело је Кисинџера да се замисли. Он је одувек веровао у снагу људске способности да креира свој свети светски поредак, ратом и миром, али увек на основу дубоко људских мотива и потреба. Судбина света решавала се на мировним конференцијама, уз дипломатско умеће и интелектуалну снагу. Сада је Метерних требало да уступи место алгоритму, а Париска конференција, која је требало да успостави мир који ће окончати сваки рат, и то на основу научних чињеница и спознаја које је Вудро Вилсон донео у Европу преко своје групе „Истраживање“, требало је науку препусти машинама које су перпетуум мобиле знања и које саме себе уче?
За јединог преосталог хладноратовског дипломатског колоса није било сумње да се свет налази пред судбинском променом. Какве ће бити историјске последице машина које подучавају саме себе – машина које стичу знање процесима својственим само њима и примењују га за циљеве који потенцијално остају ван оквира људског разумевања. Да ли ће ове машине научити да међусобно комуницирају? Како ће доносити одлуке пред мноштвом опција? Да ли је могуће да људска историја доживи судбину Инка који су се суочили са шпанском културом која је била ван оквира њиховог разумевања и на коју су гледали са страхопоштовањем? Да ли смо на ивици нове фазе људске историје?
Да би стигао до одговора на ова питања, после тог предавања Кисинџер је у својим 90-им годинама почео, заједно са Шмитом, да организује мале семинаре од четири или петоро људи сваке три или четири недеље. На крају тог истраживачког периода, позвали су Дана Хутенлохера и онда су се њих тројица састајали годину дана, сваке недеље поподне.
Била је то, поред осталог, задивљујућа радна енергија и упорност човека који је већ тада превалио 90. годину. Тако је настала њихова управо објављења књига Доба вештачке интелигенције (коју ће ускоро у преводу на српски објавити Клуб ПЛУС из Београда).
Крајње одредиште вештачке интелигенције
Кисинџеру је јасно да сада вештачка интелигенција, производ људске генијалности, поништава примат људског разума: она истражује и почиње да опажа аспекте света брже од људи, другачије од начина на који то људи раде, а у неким случајевима и на начин који људи не разумеју.
Њих тројица – Кисинџер, Шмит и Хутенлохер – позвали су америчку владу да образује комисију која би регулисала развој вештачке интелигенције. У тексту који је пре две године објављен у Вол Стрит Џорналу упозорили су да вештачка интелигенција има потенцијал да покрене дубока егзистенцијална и филозофска питања о „примату људског разума“ и улози људи у свету.
Трио је позвао америчку владу да оснује комисије са задатком да „обликује вештачку интелигенцију у складу са људским вредностима, укључујући достојанство и морално деловање људи“. Они су закључили да је „напредак вештачке интелигенције неизбежан, али његово крајње одредиште није“.
Шта ако вештачка интелигенција напише најбољи сценарио године, да ли треба да добије Оскара? Ако вештачка интелигенција симулира или води најзначајније дипломатске преговоре године, да ли би требало да добије Нобелову награду за мир?
Вештачка интелигенција је „способност дигиталног рачунара или компјутерски контролисаног робота за обављање задатака који су својствени интелигентним бићима“. Она је још увек у раној фази, али то је технологија која напредује много брже од других – чак брже од интернета. Најновије истраживање компаније Dell процењује да „85 одсто радних места која ће постојати 2030. није још ни створено!“. Ово поставља питање: како можемо образовати радну снагу да се припреми за овај ниво неизвесности?
Летећи аутомобили и виртуелна колица
Друга област коју је Кисинџер узео као пример јесте појава аутомобиле без возача, аутомобила-дрона. Аутомобил без возача илуструје разлике између деловања традиционалних компјутера које контролишу људи а покреће софтвер, и универзума којим вештачка интелигенција настоји да овлада.
Вожња аутомобила захтева процене бројних ситуација које је немогуће предвидети и самим тим немогуће унапред програмирати. Шта би се десило, да се послужимо познатим хипотетичким примером, ако би такав аутомобил стицајем околности био принуђен да бира између тога да убије пензионера или да убије дете? Кога би одабрао? Зашто? Којим факторима би дао предност? И да ли би могао да објасни свој резон? Уколико би био приупитан (и способан да комуницира), његов искрени одговор би вероватно био: ,,Не знам (јер пратим математичке, а не људске принципе)“; или: ,,Не бисте разумели (јер сам научен да се понашам на одређени начин, али не и да га објашњавам)“. Упркос томе, све су прилике да ће аутомобили без возача однети превагу на путевима за свега десетак година, ако не и раније.
Тренутно стотине компанија граби ка индустријском циљу да „аутономни аутомобили буду на путу за комерцијалну употребу у року од годину дана и такође имају могућности за њихово потпуно оперативно коришћење у ваздуху (летећи аутомобили) до 2024.“ Чини се да ће до 2030. бити потребна посебна дозвола за управљање возилом којим управљају људи, што илуструје уверење да ће аутомобили без возача преузети власт на копненим и ваздушним друмовима. Тако ће се решити проблем несташице возача за камионе, што је најчешће мушко занимање у САД, који сада мучи западне земље. То ће у перспективи двести до губљења 3 до 5 милиона радних места, само у САД.
Звучи застрашујуће податак да скоро 90 одсто Амазонових инвестиција доводе до огромног губитка посла у свакој индустрији.
Продавнице ланца прехрамбених производа Амазон Го омогућавају купцима да купују у продавници користећи само е-апликацију за паметне телефоне, да изађу са оним што им треба, без провере напољу, без благајника, без чекања у редовима.
Ове продавнице раде коришћењем исте технологије које се користе у аутономним аутомобилима као што је сензорска фузија, компјутерски вид и дубоко учење. Сензори продавнице могу да открију када се производи узимају или враћају на полице, и да их аутоматски прате у вашим „виртуелним колицима“. Када напустите продавницу, аутоматски вам се наплаћује.
Нови период људске свести
Ерик Шмит увиђа да је алгоритамска брзина одлучујућа. „Сада смо прешли од способности читања књига до описивања књига, до тога да немамо времена ни да их читамо, ни да их замислимо, нити да о њима расправљамо. У питању је убрзање времена и информација, што мислим, заиста превазилази људске капацитете. Мислим да људи нису створени за ово. Дакле, у крајњем случају, преоптерећеност информацијама ће вероватно премашити нашу способност да обрадимо све што се дешава“, сматра некадашњи директор Гугла.
Кисинџер каже да је целог живота настојао да увиди који је смисао историје. Људи су током целе историје настојали да разумеју стварност и људску улогу у њој.
„Тема о смислу историје и куда идемо окупирала је мој живот“, написао је Кисинџер. „Технолошко чудо ме не фасцинира толико; оно што ме фасцинира јесте да крећемо у нови период људске свести који још увек не разумемо у потпуности. Када кажемо нови период људске свести, мислимо на то да ће перцепција света бити другачија, у најмању руку различита, као између доба просвећености и средњег века, када је западни свет прешао са религиозне перцепције света на перцепција света на основу разума, полако. Ово ће бити брже. Постоји једна битна разлика. У просветитељству је постојао концептуални свет заснован на вери. И тако су Галилеј и касни пионири просветитељства имали преовлађујућу филозофију против које су морали да тестирају своје размишљање. Можете пратити еволуцију тог размишљања. Живимо у свету који, у ствари, нема филозофију; нема доминантног филозофског гледишта. Тако да технолози могу да дивљају. Они могу да развију ствари које мењају свет, али нема никога ко би рекао: Морамо ово да интегришемо у нешто.“
Канцеларија Беле куће за науку и технолошку политику пре месец дана позвала је на креирање „закона о правима“ како би се заштитила од злоупотребе вештачке интелигенције.
Кисинџер у Гуглу
Када је Кисинџер упознао Ерика Шмита, он га је позвао да говори у Гуглу. Кисинџер је рекао да Гугл сматра претњом цивилизацији, пошто није желео да једна организација има монопол на давање информација.
„Сматрао сам да је изузетно опасно да једна компанија може да пружи информације и да прилагоди оно што је испоручила својој студији о томе шта је јавност желела или сматрала вероватним“, рекао је Кисинџер. „Тако је истина постала релативна. То је било све што сам знао у то време. А разлог зашто ме је позвао да се састанем с његовом алгоритамском групом био је да схватим да ово није произвољно, већ да избор онога што је представљено иза себе има неко промишљање и анализу. То није отклонило мој страх од моћи коју има једна таква приватна организација.“
Кисинџера је посета Гуглу навела на размишљање и истовремено забринула због утицаја који ће технологија имати на људе и њихово постојање и сазнања да технолози то раде без разумевања утицаја њиховог дела или раније историје.
Кисинџер тврди да су процеси вештачке интелигенције постали толико моћни, тако неприметно уплетени у људске послове и тако непредвидиви, да без предумишљаја и управљања, врста „епохалних трансформација“ коју ће спровести може послати људску историју у опасном правцу. „Овладавајући одређеним компетенцијама брже и одлучније од људи, вештачка интелигенција би временом могала да умањи људску компетенцију и само људско стање док их претвара у податке“, навео је Кисинџер. „Филозофски, интелектуално – у сваком погледу – људско друштво је неспремно за успон вештачке интелигенције“, тврди Кисинџер.
Он иде тако далеко да предвиђа окончање „ере просветитељства“, односно крај доминације људског разума у историји и препуштање тог места машини и алгоритмима.
Три стрепње
Развој вештачке интелигенције доноси три врсте стрепње и неизвесности. Прва је да би вештачка интелигенција могла да оствари нежељене резултате. Друга стрепња је да би у достизању намераваних циљева она могла да промени људски мисаони процес и људске вредности. Треће, вештачка интелигенција би могла да оствари предвиђене циљеве, али да не буде у стању да објасни резон иза својих закључака.
Кисинџер, који је своју славу стекао на нуклеарним питањима, упозорава да ће развој вештачке интелигенције бити много теже контролисати од нуклеарног оружја јер ће се развој технологије обављати у тајности: „С вештачком интелигенцијом незнање друге стране је једно од ваших најбољих оружја – његово ширење ће бити много теже. Због тога значајан број научника, истраживача индустрије и технолошких средстава подржао је акцију за забрану употребе аутономног оружја. Питање је, међутим, најблаже речено изазовно. Као што истраживач безбедности Пол Шар пише у недавно објављеној књизи Војска без војника, аутономно оружје се деценијама увлачи у војне системе. Није увек лако повући линију код аутономних система, а технологија је примамљива јер се може користити да се оружје учини поузданијим.“
16. новембар 2021.