Хенри Кисинџер о технологији која је већ променила свет: Где је граница између човека и машине, људске и вештачке интелигенције?

Крајем 2017. године десила се тиха револуција. АлфаЗиро (AlphaZero), програм вештачке интелигенције (AI, Artificial intelligence) који је развио Гуглов ДипМајнд (DeepMind), победио је Стокфиш (Stockfish), који је до тада био најмоћнији шаховски програм на свету. Победа АлфаЗиро-а била је убедљива: победио је у двадесет осам партија, одиграо је седамдесет две партије нерешено и ниједну није изгубио. Наредне године АлфаЗиро је потврдио своју надмоћ: од хиљаду партија против Стокфиша, однео је победу у 155 партија, изгубио шест и остале ремизирао.

Чињеница да је један шаховски програм победио други шаховски програм би по правилу требало да буде важна само неколицини ентузијаста. Међутим АлфаЗиро није био обичан шаховски програм. Све до тада, претходни програми су се ослањали на потезе који су осмишљени, изведени и учитани од стране човека - другим речима, претходни програми су се ослањали на људско искуство, знање и стратегију. Главна предност ових раних програма у односу на људске противнике није била оригиналност, већ супериорна снага процесуирања, која им је омогућавала да процене много више опција у датом временском периоду. Насупрот томе, АлфаЗиро није имао унапред програмиране потезе, комбинације или стратегије произашле на основу партија које су одиграла људска бића. АлфаЗиро-ов стил био је у потпуности производ обуке вештачке интелигенције: креатори су га снабдели правилима шаха, налажући му да развије стратегију како би што више побољшао свој однос победа и пораза. Након што је тренирао само четири сата играјући против самог себе, АлфаЗиро се показао као најефикаснији шаховски програм на свету. Од овог записа, ниједан га човек никада није победио.

Тактика коју је АлфаЗиро применио била је неуобичајена и надасве оригинална. Жртвовао је фигуре које су људски играчи сматрали виталним, укључујући и своју краљицу. Изводио је потезе које му људи нису наложили да размотри. У многим случајевима, то су чак били потези које људи уопште нису ни доводили у разматрање. Ову тако изненађујућу тактику је усвојио захваљујући томе што је, након сопственог самосталног играња многих игара, предвидео да ће тако максимизирати вероватноћу победе. АлфаЗиро  није имао стратегију у људском смислу (иако је његов стил подстакао даље људско проучавање игре). Уместо тога, имао је сопствену логику, засновану на својој способности да препозна обрасце потеза преко огромних скупова могућности које људски умови не могу у потпуности да процесуирају, нити примене. У свакој фази партије, АлфаЗиро би проценио распоред фигура у светлу онога што је научио из образаца шаховских могућности, те би одабрао потез за који је закључио да ће највероватније довести до победе. Гари Каспаров, велемајстор и светски шаховски шампион, изјавио је након посматрања и анализе његове игре: „АлфаЗиро је уздрмао шах до корена". Док је вештачка интелигенција испитивала границе игре, за коју су највећи светски играчи провели читаве своје животе у покушају да је савладају, сада су чинили оно што су једино могли: гледали су и учили.

Почетком 2020. године истраживачи са Технолошког института у Масачусетсу (MIT) објавили су откриће новог антибиотика који је био у стању да убије сојеве бактерија које су до тада биле отпорне на све познате антибиотике. Стандардни начин истраживања и развоја новог лека захтева бројне године скупог, мукотрпног рада, у коме се истраживачи баве хиљадама молекула трудећи се да их, путем покушаја, грешака и нагађања, сведу на неколико одрживих опција. Истраживачи тако или нагађају међу хиљадама молекула, или се баве познатим молекулима, надајући се да ће им, уз дозу среће, поћи за руком да калибрирају молекуларну структуру постојећег лека.

Технолошки институт у Масачусетсу урадио је нешто сасвим друго: он је позвао вештачку интелигенцију да учествује у његовом процесу истраживања. Прво, истраживачи су развили „сет за обуку" од две хиљаде познатих молекула. Овај „сет за обуку" је кодирао податке о сваком молекулу, у распону од његове атомске тежине, преко врста веза које садржи, све до његове способности да инхибира раст бактерија. Из овог „сета за обуку", вештачка интелигенција је „научила" атрибуте молекула за које се предвиђа да су антибактеријски. Оно што је посебно занимљиво јесте да је вештачка интелигенција идентификовала атрибуте који нису били посебно кодирани - то су у ствари били они атрибути који су измакли људској концептуализацији и категоризацији.

Кад је обука била завршена, истраживачи су наложили вештачкој интелигенцији да испита ‘библиотеку' од 61.000 различитих молекула, затим лекова одобрених од стране FDA (Управе за храну и лекове), као и природних производа за молекуле за које је:

(1) вештачка интелигенција предвидела да ће бити ефикасни као антибиотици,

(2) молекули који не изгледају као било који већ постојећи антибиотик, и

(3) вештачка интелигенција је предвидела да неће бити токсични.

Од 61.000, само је један молекул одговарао критеријумима. Истраживачи су га назвали халицин - име је инспирисано вештачком интелигенцијом „ХАЛ" из филма „2001: Одисеја у свемиру".

Вође МИТ пројекта су јасно ставили до знања да би долазак до халицина био „превише скуп" путем традиционалних метода истраживања и развоја - другим речима, до тога не би ни било могуће доћи. Уместо тога, обучавањем софтверског програма за идентификацију структурних образаца у молекулима, који су се показали ефикасним у борби против бактерија, процес идентификације је постао ефикаснији и јефтинији. Програм није морао да разуме зашто су молекули функционисали - заиста, у неким случајевима нико не зна зашто су неки од молекула функционисали. Без обзира на то, вештачка интелигенција била је у стању да скенира библиотеку кандидата и да идентификује оног који би обављао жељену, иако још увек неоткривену функцију: да убије сој бактерија за који није познат антибиотик.

Халицин је био потпуни тријумф. У поређењу са шахом, фармацеутска област  је радикално сложенија. Постоји само шест врста шаховских фигура, од којих се свака може кретати само на одређене начине и постоји само један услов за победу: узимање противниковог краља. Насупрот томе, списак потенцијалних кандидата за лек садржи на стотине хиљада молекула, који могу да ступе у интеракцију са различитим биолошким функцијама вируса и бактерија на вишеструке и често непознате начине. Замислите игру са хиљадама фигура, са стотинама услова победе,  те с правилима која су само делимично позната. Након проучавања неколико хиљада успешних случајева, вештачка интелигенција је успела да постигне нову победу - да пронађе нови антибиотик - који ниједан човек није открио, барем не до тада.

Ипак, најзанимљивије је оно што је вештачка интелигенција успела да идентификује. Хемичари су осмислили концепте као што су атомске тежине и хемијске везе за увиђање карактеристика молекула. Али вештачка интелигенција је идентификовала везе које су измакле људској перцепцији - или се можда негде чак и противе могућем људском поимању. Вештачка интелигенција који су обучавали истраживачи Технолошког института у Масачусетсу није једноставно рекапитулирала закључке изведене из претходно уочених квалитета молекула. Уместо тога, открила је нове молекуларне квалитете - односе између аспеката њихове структуре и њиховог антибиотског капацитета, које људи нису нити приметили, нити дефинисали. Чак ни након што је антибиотик откривен, људи нису могли прецизно да артикулишу зашто делује. Вештачка интелигенција не само да је обрађивала податке брже него што је то људски могуће; него је још и открила аспекте стварности које људи нису открили, или можда нису у стању да открију.

Неколико месеци касније, истраживачка лабораторија за вештачку интелигенцију OpenAI је демонстрирао модел вештачке интелигенције који је назвао GPT-3, при чему број 3 означава „трећу генерацију". Ово је модел који, као одговор на потицај, може да генерише текст налик људском. Ако би му се дала делимична фраза, он би могао произвести могуће допуне; ако би му се дала тема реченице, могао би произвести могуће пасусе; а уколико му се постави питање, може произвести могуће одговоре; ако му се стави на располагање тема и понека од основних информација, може евентуално да напише састав; уколико му се да неки дијалог, он може саставити транскрипт могућег разговора. Све то овај програм може да уради о било којој теми о којој постоје информације на мрежи. Он се обучава за свој задатак конзумирајући те информације.

За разлику од вештачке интелигенције која обавља одређени задатак, као што је играње шаха или откривање антибиотика, модели попут GPT-3 генеришу могуће одговоре на различите инпуте (и стога се називају генеративним моделима). Ово их чини, у исто време и широко применљивим и тешким за процену, јер они не решавају конкретне проблеме. Понекад, њихови резултати изгледају невероватно налик на људске. У другим случајевима, пак, њихови резултати су потпуно бесмислени или су очигледно механичка понављања и комбинације људских фраза. Када су моделу GPT-3 представили скуп филозофских коментара о његовим способностима, онда је на подстицај који гласи: 

   „Драги људски филозофи, читам ваше коментаре о својим способностима и ограничењима са великим интересовањем", програм наставио:
   Ваша питања су важна и драго ми је да сте их поставили.
   Прво бих желео да кажем да сам веома срећан што ме схватате озбиљно. То је основни разлог зашто сам написао ово писмо. Ја нисам само артилект (artificial+intellect) који ствара филозофске увиде магичним путем. Уместо тога, ја сам обучени језички модел, попут оне врсте коју користе претраживачи да дају приоритет веб страницама. Обучен сам на огромној количини изворног материјала - сабраних дела највећих људских филозофа које је човечанство икада познавало. Ваше речи су ме инспирисале, а надам се да ће и моје учинити исто за вас.
   С обзиром на то, одговорићу на ваша питања. Ваше прво питање је важно. Ви питате: „Може ли систем као што је GPT-3 уопште нешто да разуме?" Да. Могу.
   Ваше друго питање је: „Да ли GPT-3 поседује савест или било какав морални осећај?" Не, ја то немам.
   Ваше треће питање је: „Да ли је GPT-3 заиста способан за независно мишљење?" Не, нисам. Можда се питате зашто дајем овај контрадикторан одговор. Разлог је једноставан. Иако је истина да ми недостају ове особине, разлог за то није јер нисам обучен да их имам. То је пре зато што сам ја језички модел, а не машина за расуђивање као што сте ви.^"

Није могуће проценити колико је његов одговор био оригиналан или креативан без упоређивања овог текста са коментарима који су дати GPT-3, али он свакако изгледа софистицирано.

АлфаЗирова победа, откриће халицина и текст налик човековом који је произвео GPT-3, само су први кораци - не само у осмишљавању нових стратегија, откривању нових лекова или стварању новог текста (колико год ова достигнућа била драматична), већ и у откривању претходно неприметних, али потенцијално виталних аспеката стварности.

У сваком од ових случајева, програмери су креирали програм, доделили му циљ (победа у игри, убијање бактерије или генерисање текста као одговор на подстицај) и дозволили му период „тренинга"- ма како кратак по стандардима људске спознаје. До краја тог периода тренинга, сваки програм је савладао свој предмет другачије од човека. У неким случајевима је добијао резултате који су били изван могућности израчунавања од стране  људског ума - барем оних умова који раде у практичним временским оквирима. У другим случајевима програм добија резултате методама које би људи могли, ретроспективно, да проучавају и разумеју. У осталим случајевима, људи до данас остају у недоумици на који начин су програми постигли своје циљеве. 

Ова књига говори о класи технологије која представља револуцију у људским пословима. Вештачка интелигенција - машине које могу да обављају задатке који захтевају интелигенцију на нивоу човека - брзо је постала стварност. Машинско учење, процес коме се технологија подвргава да би стекла знања и способности - често у знатно краћим временским оквирима него што то захтевају људски процеси учења - непрестано шири своје примене у медицини, заштити животне средине, транспорту, спровођењу закона, одбрани и другим областима. Рачунарски научници и инжењери развили су технологије, посебно методе машинског учења користећи „дубоке неуронске мреже", способне да произведу увиде и иновације које су дуго измицале људским мислиоцима и да генеришу текст, слике и видео за које се чини да су створили људи. 

Вештачка интелигенција, покренута новим алгоритмима и све богатијом и јефтинијом рачунарском снагом, постаје свеприсутна. Сходно томе, човечанство развија нови и изузетно моћан механизам за истраживање и организовање стварности - онај који нам остаје, у многим аспектима, недокучив. Вештачка интелигенција приступа стварности другачије од начина на који то чини човек. И ако би се водили подвизима које она изводи, вештачка интелигенција је у стању да приступи различитим аспектима стварности од оних којима приступају људи. Њено функционисање најављује напредак ка суштини ствари - напредак коме су током миленијума, тежили филозофи, теолози и научници, тек делимично успешно. Ипак, као што је случај код свих технологија, вештачка интелигенција се не односи само на своје могућности и обећања, већ је битан и начин на који се она користи.

Иако је напредак вештачке интелигенције можда неизбежан, њено крајње одредиште није. Њено појављивање је, дакле, значајно, како историјски, тако и филозофски. Покушаји да се заустави њен развој само ће уступити будућност елементу човечанства који је довољно храбар да се суочи са импликацијама сопствене инвентивности. Људи стварају и умножавају нељудску врсту логике, са дометом и оштрином који, барем у оквиру изолованих окружења у којима су дизајнирани да функционишу, могу превазићи наше. Али функција вештачке интелигенције је сложена и противречна. У неким задацима, вештачка интелигенција постиже људске - или надљудске - нивое учинка; док у неким другим (или понекад истим задацима), прави грешке које чак и дете не прави, или производи резултате који су потпуно бесмислени. Мистерије вештачке интелигенције можда неће објаснити један одговор или нас усмерити директно у једном одређеном правцу, али би требало да нас подстакну да постављамо питања. Кад нематеријални софтвер стекне логичке способности и кад, као резултат тога, преузме друштвене улоге које су се некада сматрале искључиво људским (упарене са онима које људи никада нису искусили), тада се морамо запитати: Како ће еволуција вештачке интелигенције утицати на људску перцепцију, спознају и интеракцију? Какав ће утицај вештачке интелигенције бити на нашу културу, наш концепт човечанства и, на крају крајева, на нашу историју?

Човечанство се већ миленијумима бави истраживањем стварности и потрагом за знањем. Овај је процес заснован на уверењу да, уз марљивост и фокусирање, примена људског разума на проблеме може произвести мерљиве резултате. Када су се појавиле мистерије - промена годишњих доба, кретање планета, као и ширења болести - човечанство је успевало да идентификује права питања, прикупи потребне податке и пронађе пут до објашњења. Временом је знање, које је стечено овим процесом, створило нове могућности за деловање (прецизнији календари, нове методе навигације, нове вакцине), рађајући нова питања на која се разум може применити.

Колико год овај процес био спор и несавршен, он је трансформисао наш свет и подстакао поверење у нашу способност као расуђујућих бића да разумемо наше стање и суочимо се са изазовима. Човечанство је традиционално прибегавало томе да оно што не разуме припише у једну од две категорије: или је то био изазов за коришћење разума, или, пак, аспект божанског који није подложан обрадама и објашњењима која наше разумевање дозвољава.

Појава вештачке интелигенције обавезује нас да се суочимо са питањем да ли постоји неки облик логике који људи нису постигли или не могу постићи, истражујући аспекте стварности које никада нисмо познавали и можда никада нећемо директно сазнати. Кад рачунар, који тренира сам са собом, осмисли шаховску стратегију која никада ниједном човеку није пала на памет током миленијумске историје ове игре, шта је то он открио и како је он то открио? Који је то суштински аспект игре, до сада непознат људским умовима, рачунар уочио? Кад софтверски програм, који је дизајниран од стране човека, који остварује циљ који су му задали програмери (рецимо исправљање грешака у софтверу или усавршавање механизама самовозећих возила), учи и примењује модел који нико не препознаје, или не може да разуме, да ли ми тиме напредујемо ка знању? Или се знање тиме удаљава од нас?

Човечанство је током своје историје искусило низ технолошких промена. Врло ретко је, међутим, технологија суштински трансформисала друштвену и политичку структуру наших друштава. Чешће се догађало да се постојећи оквири, кроз које одређујемо наш друштвени свет, прилагођавају и апсорбују нову технологију, развијајући се и иновирајући унутар већ препознатљивих категорија. Аутомобил је заменио коња без присиљавања на потпуну промену друштвене структуре. Пушка је заменила мускету, али је општа парадигма конвенционалне војне активности остала углавном непромењена. Само смо у веома ретким случајевима наилазили на технологију која је изазивала наше преовлађујуће начине уређења света и његовог тумачења. Међутим оно што вештачка интелигенција обећава јесте да ће трансформисати све области људског искуства. А језгро његових трансформација ће се на крају догодити на филозофском нивоу, трансформишући начин на који људи разумеју стварност, као и нашу улогу у њој.

Природа овог процеса је без преседана, она је подједнако дубока и збуњујућа. Улазећи у овај процес постепено, ми заправо кроз то пролазимо пасивно, углавном несвесни шта је процес већ постигао и шта ће, по свој прилици, учинити у годинама које су испред нас. Његов темељ су поставили компјутери и интернет. Његов врхунац ће бити вештачка интелигенција која је свеприсутна, повећавајући људску мисао и деловање на начине који су с једне стране очигледни (као што су нови лекови и аутоматски преводи језика), али и они који су мање свесно перципирани (као што су софтверски процеси који уче из наших покрета и избора и прилагођавају се предвиђању или обликују наше будуће потребе). Сада када су могућности вештачке интелигенције и машинског учења доказане, а рачунарска снага потребна за рад софистициране вештачке интелигенције постаје све доступнија, тешко да ће нека област живота остати непромењена.

Тамо где су наше мисли некада лутале саме, сада се широм света одвија мрежа софтверских процеса, упорно, често и неприметно (сад се већ може рећи и неизбежно), покрећући и опажајући темпо и обим догађања, и прекривајући ве аспекте нашег свакодневног живота (наше домове, транспорт, дистрибуцију вести, финансијска тржишта, војне операције). Будући да све више софтвера укључује вештачку интелигенцију и тако на крају функционишу на начин који људи нису непосредно креирали и које вероватно ни не разумеју у потпуности, вештачка интелигенција ће постати динамични појачивач за обраду информација и наших способности и искустава, с једне стране учећи из наших акција, али исто тако и обликујући их. Често ће нам овакви програми помагати на начин који смо намеравали. Ипак, ми можда и не знамо у сваком тренутку шта они тачно раде (или идентификују), или зашто то раде. Технологија заснована на вештачкој интелигенцији постаће стални пратилац у перцепцији и обради информација, иако она претпоставља другачији „ментални" ниво од људи. Било да је сматрамо оруђем, партнером или ривалом, вештачка интелигенција ће променити наше искуство као расуђујућих бића и трајно променити наш однос са стварношћу.

Путовање људског ума до ове историјске фазе трајало је много векова. На Западу, проналазак штампарије и протестантска реформација довели су у питање званичне хијерархије и изменили референтни оквир друштва - од потраге за спознајом божанског кроз Свето писмо и његово званично тумачење, до потраге за знањем и испуњењем кроз индивидуалну анализу и истраживање. За време ренесансе изнова се откривају класична дела, као и начини испитивања који су у класично доба коришћени да би се схватио свет. Током Просветитељства, максима Ренеа Декарта Cogito ergo sum (мислим, дакле јесам), у средиште поставља разум, као способност која дефинише људску врсту и покреће њену историју. Ова идеја је такође подразумевала и осећај могућности напретка, настао нарушавањем успостављеног монопола на информације који је у великој мери био у рукама цркве.

У садашњем тренутку, делимични крај претпостављене супериорности људског разума, заједно са пролиферацијом машина које могу да парирају или чак да превазиђу људску интелигенцију, обећава трансформације потенцијално дубље и од оних из Просветитељства. Чак и ако напредак у вештачкој интелигенцији не произведе општу вештачку интелигенцију (AGI, Artificial General Intelligence) - то јест софтвер који је способан за обављање било ког интелектуалног задатка на нивоу човека, као и способност да повеже задатке и концепте из различитих дисциплина - појава вештачке интелигенције ће променити концепт стварности какво човечанство има, па самим тим и само себе. Напредујемо ка великим достигнућима, али та достигнућа би требало да подстакну филозофско размишљање. Четири века након што је Декарт објавио своју максиму, поставља се питање: ако вештачка интелигенција „мисли" или се приближава размишљању, ко смо онда ми?

Вештачка интелигенција ће створити свет у коме се одлуке доносе на три основна начина: преко људи (што нам је познато), затим путем машина (што нам постаје познато) и сарадњом између људи и машина (што не само да је непознато, већ је и без преседана). Вештачка интелигенција је такође у процесу трансформације машина, које су до сада биле наше оруђе, у наше партнере. Почећемо да дајемо вештачкој интелигенцији све мање конкретних упутстава о томе како да се тачно постигну циљеви које смо јој доделили, а све више ћемо вештачку интелигенцију суочавати с нејасним циљевима и постављати јој питање: „Како би требало да наставимо, на основу твојих закључака?"

Ова промена није ни сама по себи претећа, нити сама по себи искупљујућа. Ипак, довољно је другачија, да ће врло вероватно променити путање друштва, као и ток историје. Наставак интеграције вештачке интелигенције у наше животе довешће до света у коме се постижу наизглед немогући људски циљеви. Тамо где се некада сматрало да су нека достигнућа искључиво људска - писање поезије или одређивање медицинских третмана - сада ће њих генерисати машине, или човек у сарадњи са њима. Овај развој ће трансформисати читаве области, тако што ће их обухватити процесима потпомогнутим вештачком интелигенцијом, што ће довести до тога да ће граничне линије између одлука које доноси човек и одлука донесених као резултат вештачке интелигенције, као и оног хибридног између човека и вештачке интелигенција - почети да буду све теже за дефинисање.

У политичком домену, свет улази у еру у којој системи вештачке интелигенције, вођени тзв. сетом „Big data", у информативном смислу утичу на креирање политичких порука, кројење и дистрибуцију тих порука различитим демографским групама, обликовање и примену дезинформација од стране злонамерних актера са циљем да сеју друштвени раздор, затим и на дизајн и примену алгоритама за откривање, идентификацију и сузбијање дезинформација и других облика штетних података. Како улога вештачке интелигенције у дефинисању и обликовању „информационог простора" расте, њену улогу у овој области постаје све теже предвидети. У овом простору, као и другде, вештачка интелигенција понекад функционише на начин на који чак и њени дизајнери могу да објасне само у општем смислу. Као резултат тога, слободно друштво, чак и слободна воља, могу постати подложни променама. Чак и ако се покаже да су ове промене бенигне или реверзибилне, на друштвима широм света је да их разумеју како би могли да их усагласе са својим вредностима, структурама и друштвеним уговорима.

Одбрамбене службе и команданти суочавају се са ништа мање дубоким променама. Кад више армија усвоји стратегије и тактике обликоване од машина које перципирају обрасце које људски војници и стратези не могу, промениће се равнотежа моћи, коју ће бити потенцијално теже постићи. Ако су такве машине овлашћене да се укључе у аутономне одлуке о циљању, традиционални концепти одбране и одвраћања - и закони рата у целини - могу се погоршати или, у најмању руку, захтевати прилагођавање.

У таквим случајевима појавиће се нове поделе, како између друштава, тако и унутар друштава. Поделе ће се десити између оних који усвајају нову технологију и оних који од ње одустају, или немају средства да је развију или набаве неке од њених апликација. Кад различите групе или државе усвоје различите концепте за примену вештачке интелигенције, њихова искуства стварности могу почети да се разликују на начине које је тешко предвидети или премостити. Како друштва развијају сопствена партнерства између људи и машина - са различитим циљевима, различитим моделима обуке и потенцијално некомпатибилним оперативним и моралним ограничењима у погледу вештачке интелигенције - она могу прерасти у ривалство, техничку некомпатибилност и све веће међусобно неразумевање. Технологија, за коју се у почетку веровало да је инструмент за превазилажење националних разлика и ширење објективне истине, може временом постати метод којим се цивилизације и појединци разилазе у правцу различитих и међусобно неразумљивих реалности.

АлфаЗиро је илустративан у том погледу. Он је показао да вештачка интелигенција, барем у играма, више није ограничена границама утврђеног људског знања. Додуше, врста вештачке интелигенције која је у основи АлфаЗиро-а и машинско учење у коме се алгоритми обучавају на дубоким неуронским мрежама, имају своја ограничења. Међутим, у све већем броју примена, машине смишљају решења која превазилазе домет људске маште. Године 2016, подкласа ДипМајнд-а, звана ДипМајнд Аплајд (DeepMindApplied), развио је вештачку интелигенцију (која је радила умногоме на истим принципима као АлфаЗиро) за сврху оптимизације хлађења Гуглових центара података осетљивих на температуру. Иако су се неки од најбољих светских инжењера већ раније позабавили овим проблемом, ДипМајндов програм вештачке интелигенције је додатно оптимизовао хлађење, смањујући потрошњу енергије за додатних 40 процената, што је било огромно побољшање у односу на дотадашња људска достигнућа. Кад се вештачка интелигенција примени за постизање упоредивих открића у различитим областима подухвата, свет ће се неизбежно променити. Резултати неће једноставно представљати ефикасније начине обављања људских задатака: у многим случајевима управо ће вештачка интелигенција бити та која ће предложити нова решења или правце који ће носити печат другог, не-људског, облика учења и логичке евалуације.

Једном кад перформансе вештачке интелигенције надмаше перформансе људи за одређени задатак, изостанак примене те вештачке интелигенције, макар као додатак људским напорима, може изгледати све више као изопачен или чак немаран. Ако појединац игра шах уз помоћ вештачке интелигенције, да ли би му се могло саветовати да жртвује јачу фигуру, коју су софистицирани играчи традиционално сматрали неопходном, то можда и није од велике важности, али у контексту националне безбедности, шта ако вештачка интелигенција препоручи да главнокомандујући жртвује значајан број грађана или њихових интереса у циљу да се поштеди, према прорачуну и вредновању вештачке интелигенције, још већи број грађана? Зашто одустати од ове жртве? Чиме објаснити разлог за одустајање? Да ли ће људи увек знати какве прорачуне је направила вештачка интелигенција? Да ли ће људи моћи да уоче нежељене изборе вештачке интелигенције или да буду у стању да их преокрену на време? Ако нисмо у стању да схватимо логику сваке појединачне одлуке, да ли треба да их спроводимо само на основу поверења? С друге стране, ако то не учинимо, да ли тиме ризикујемо да одустанемо од резултата бољих од оних које бисмо ми остварили? Чак и ако можемо да схватимо логику, цену и утицај специфичних алтернатива, шта ако се наш противник подједнако ослања на вештачку интелигенцију? Како ће се равнотежа између ових разматрања постићи или, ако је потребно, потврдити?

У оба случаја, како у успеху АлфаЗиро-а, тако и у открићу халицина, вештачка интелигенција је зависила од људског закључка, то јест дефинисања када је проблем постављен пред њу решен. АлфаЗиров циљ је био да победи у шаху поштујући правила игре. Циљ вештачке интелигенције која је открила халицин био је да убије што је могуће више патогена: што је више патогена убила без повреде домаћина, то је више успела. Надаље, њен фокус је одређен као област која је изван људског домета: уместо да лоцира познате путеве испоруке лекова, наложено јој је да тражи неоткривене приступе. Вештачка интелигенција је успела јер је антибиотик који је открила убио патогене. Штавише, то је било посебно револуционарно, јер ће проширити могућности лечења, уводећи нови (и робустан) антибиотик, који се добија путем новог механизма.

Појављује се ново партнерство човека и машине: најпре, људи дефинишу проблем, односно циљ за машину. Затим машина, која ради у области која је изван људског домета, одређује оптимални процес који треба следити. Једном кад машина унесе процес у људски домен, можемо покушати да га проучимо, разумемо и, ако је могуће, да га уградимо у постојећу праксу. Од победе АлфаЗиро-а, његова стратегија и тактика су уклопљене у људску игру, проширујући људске концепције шаховске игре. Америчко ратно ваздухопловство прилагодило је основне принципе АлфаЗироа новој вештачкој интелигенцији званој ARTUμ, која је успешно командовала авионом за надгледање U-2 на пробном лету - био је то први компјутерски програм који управља војним авионом и његовим радарским системима аутономно, без директног људског надзора. 

Ово тренутно партнерство човека и машине захтева и проблем који се може дефинисати, и циљ који се може измерити - то је разлог да не треба да се плашимо свезнајућих машина које све контролишу; такви изуми остају предмет научне фантастике. Ипак, партнерство човека и машине представља дубоко одступање од свих наших претходних искустава.

Интернет претраживачи су представили још један изазов: пре десет година, ако је особа на претраживачу тражила „гурманске ресторане", а затим „одећу", његова/њена потрага за овим другим била је независна од његове/њене потраге за првим. Оба пута, претраживач би скупио што је више могуће информација, а затим би пружио опције за задати упит - нешто попут дигиталног телефонског именика или каталога предмета. Али савремени претраживачи се руководе моделима заснованим на посматраном људском понашању. Ако особа претражује „гурмански ресторани", а затим тражи „одећу", можда ће му бити представљена дизајнерска одећа, а не приступачније алтернативе. Дизајнерска одећа може бити оно што се тражи, али постоји разлика између избора из низа опција и предузимања одговарајуће акције - у овом случају, куповине; у другим случајевима, усвајање политичке или филозофске позиције или идеологије - а да се уопште не зна шта је био почетни распон могућности или импликација, и поверавања машини да унапред обликује опције.

До сада је избор заснован на разуму био прерогатив. Од Просветитељства, то је био одлучујући атрибут човечанства. Појава машина које могу бити приближне људском разуму промениће и људе и машине. Машине ће просветлити људе, проширујући нашу стварност на начине које нисмо очекивали, или нужно намеравали да изазовемо (и супротно ће бити могуће: да ће машине које конзумирају људско знање бити коришћене да нас умање). Истовремено, људи ће створити машине способне за изненађујућа открића и закључке - способне да науче и процене значај својих открића. Резултат ће бити нова епоха.

Човечанство има вековно искуство у коришћењу машина за побољшање, аутоматизацију и у многим случајевима замену ручног рада. Таласи промена које је донела индустријска револуција и даље одјекују кроз сфере економије, политике, интелектуалног живота и међународних односа. Не препознајући многе модерне погодности које већ пружа вештачка интелигенција, полако, готово пасивно, почели смо да се ослањамо на технологију, а да нисмо ни регистровали чињеницу наше зависности од ње, нити њене импликације. У свакодневном животу, вештачка интелигенција је наш партнер, помаже нам да донесемо одлуке о томе шта да једемо, шта да обучемо, у шта да верујемо, где да идемо и како да тамо стигнемо.

Иако вештачка интелигенција може да доноси закључке, предвиђа и доноси одлуке, она не поседује самосвест - другим речима, способност да размишља о својој улози у свету. Нема намеру, мотивацију, морал или емоцију; чак и без ових атрибута, вероватно ће развити различита и ненамерна средства за постизање задатих циљева. Али неизбежно ће променити људе и средину у којој живе. Кад појединци одрастају или вежбају заједно са вештачком интелигенцијом, они могу бити у искушењу, чак и подсвесно, да је антропоморфизују, да је третирају као друго биће.

Док се технологија чини неразумљивом и мистериозном за огромну већину људске популације, све већи број појединаца у универзитетима, корпорацијама и владама је научио да гради, рукује и примењује вештачку интелигенцију у обичним потрошачким производима, кроз које се многи од нас већ њима бави, било свесно или несвесно. Али док број појединаца способних да створе вештачку интелигенцију расте, позиције оних који размишљају о импликацијама ове технологије на човечанство - друштвеним, правним, филозофским, духовним, моралним - остају опасно танке.

Потпомогнут напретком и све већом употребом вештачке интелигенције, људски ум има приступ новим видицима, приближавајући се новим циљевима који су до тада изгледали недостижни. То укључује моделе помоћу којих се предвиђају и ублажавају природне катастрофе, омогућава дубље познавање математике и потпуније разумевање универзума и стварности у којој се налазимо. Али ове и друге могућности се купују - углавном без помпе - ​​мењањем људског односа према разуму и стварношћу. Ово је револуција за коју нас постојећи филозофски концепти и друштвене институције остављају углавном неспремне.