Технологија
Машина је прочитала Бредберија и запалила библиотеку: Како је вештачка интелигенција проговорила štampaj
четвртак, 24. сеп 2026, 08:34 -> 11:02
Све је више доказа да компаније које развијају најпопуларније моделе вештачке интелигенције купују старе књиге на тоне, секу им повезе, странице пропуштају кроз скенере, а оригинале бацају. У питању је такозвано „деструктивно скенирање“. У Бредберијевој антиутопији не уништавају се неподобне, већ све књиге. Књиге су прво скраћиване и изобличаване како би се прилагодиле све краћем распону пажње масовне публике, док нису изгубиле смисао, па их је публика сама напустила, а забрана је дошла накнадно, кад више није било никога ко би се против забране побунио. Данас књиге не нестају зато што је неко њихов садржај прогласио опасним, него зато што је постао вредан корпорацијама које развијају велике језичке моделе вештачке интелигенције, популарне четботове. Све што је у књигама написано – само сведено на цифре, векторе, матрице – служи као материјал од којег је направљено оно што називамо вештачком интелигенцијом.
„Волео је да спаљује. Посебно је волео да гледа како ствари бивају прождеране, како ствари црне и мењају се“, прве су реченице романа „Фаренхајт 451“ Реја Бредберија из 1953. године, о мрачној будућности света у којем ватрогасци у Америци више не гасе пожаре, него траже и пале књиге.
Та слика изронила је поново са неочекиване стране, из вести о технологији, која је многе згранула и подсетила на антиутопије из прошлог века. Све је више доказа да компаније које развијају најпопуларније моделе вештачке интелигенције купују старе књиге на тоне, секу им повезе, странице пропуштају кроз скенере, а оригинале бацају. У питању је такозвано „деструктивно скенирање“, од раније познато из судских списа о „Антропику“ и његовом „Пројекту Панама“.
Велику прашину недавно је подигао резултат истраживања портала 404Media, спроведеног у сарадњи са једним антикваром у САД, који је добио велику анонимну поруџбину за око 1.000 књига. Тајно су пратили пошиљку, која је завршила у „Амазоновом“ складишту у Лас Вегасу (кодни назив VGT3). Радници у објекту описивали су посао као „фин“ и говорили да се буквално састоји само од целодневног одсецања повеза и скенирања листова, који се потом бацају. На улазу у зграду се чак налази стилизовани логотип тираносауруса, који се спрема да „прождере“ отворену књигу.
„То нас је и чудило, били смо у фазону: ‘Ово је стварно гомила насумичних информација.’ Имају буквално све врсте књига које можете да замислите, на разним језицима. Видели смо много књига на немачком и руском, а добили смо чак и читаве палете књига на јапанском“, рекао је за 404Media радник у складишту, који је остао анониман јер није био овлашћен да говори за медије.
И у Бредберијевој антиутопији не уништавају се неподобне, већ све књиге. А према објашњењу које у роману даје капетан Бити, до тога није дошло због цензуре или декрета власти одозго, већ напротив, одоздо, из друштва. Књиге су прво скраћиване и изобличаване како би се прилагодиле краћем распону пажње масовне публике, док нису изгубиле смисао, па их је публика сама напустила, а забрана је дошла накнадно, кад више није било никога ко би се против забране побунио.
Данас се скенирани текстови користе за тренирање модела вештачке интелигенције, а старе књиге су постале драгоцене баш зато што су написане пре 2022. и појаве четботова, па су „чисте“ од машинског текста којим је интернет у међувремену преплављен.
Дакле, књиге не нестају зато што је неко њихов садржај прогласио опасним, него зато што је постао вредан корпорацијама које развијају велике језичке моделе вештачке интелигенције, популарне четботове. Све што је у књигама написано – само у измењеном облику, и то математичком, сведено на цифре, векторе, матрице – служи као материјал од којег је направљено оно што називамо вештачком интелигенцијом.
Ипак, уништавање књига никада није донело добро, па су последице по стање човековог ума и сада забрињавајуће, само што су још дубље него раније у историји и мање упадљиве од средњовековних ломача или оних у Немачкој тридесетих година прошлог века.
Језик сведен на математичке функције губи управо оно због чега је писан. Једноставно речено, машина „разуме“ и рачуна шта је вероватно, не шта је истинито ни ново, па просек постаје мера свега. Машина не бира најбољу реч него вероватну, па све што у језику одступа од просека – реткост, нијанса, лична интонација – полако бледи.
Сажеци сажетих сажетака
Бредбери је писао под утиском онога што је телевизија педесетих година радила људима који су је гледали, не слутећи да ће то у наредним деценијама, са новим медијима и све бржим животним ритмом, деловати готово безазлено.
Кабловски програми, интернет, друштвене мреже, кратки снимци, а сада и четботови, уместо нас читају, скраћују, сажимају, тумаче… Књиге су постале предуге за свет који је убрзао. Распон пажње падао је, из деценије у деценију, на нове минимуме.
„Шкљоц, Пуц, Види, Око, Сада, Треп, Овде, Тамо, Брзо, Жури, Горе, Доле, Унутра, Напоље, Зашто, Како, Ко, Шта, Где, А? Ух! Звиз! Шљис! Звек, Бинг, Бонг, Бум! Сажети сажеци, сажеци сажетих сажетака. Политика? Један стубац, две реченице, наслов! И онда, из чиста мира, све нестане! Нека пумпе издаваштва, истраживања, емитовања заврте људски ум тако силовито да центрифуга одбаци сваку непотребну мисао на коју се траћи време!… Зашто да се учи било шта осим притискања тастера, пребацивања прекидача, завртања матица и шрафова?“, речи су капетана Битија којима је писац педесетих година описао будућност, која се нажалост није задржала у домену фантастике.
О томе говоре и истраживања. Све више студија, о којима медији пишу готово свакодневно, претерано ослањање на четботове доводи у везу са слабљењем мишљења, буквално заглупљивањем.
У исто време, речи се „производе“ више него икада раније у историји. Откако се појавио ChatGPT, месечни број нових електронских књига на „Амазону“ утростручио се, са око сто хиљада на око три стотине хиљада крајем 2025. године.
Нагли пораст броја нових електронских издања праћен је и падом њиховог просечног квалитета, показало је истраживање објављено у америчком Националном бироу за економска истраживања (NBER).
Аутори који су дебитовали у ери великих језичких модела, према истраживању, несразмерно често објављују радове слабијег квалитета (који је мерен оценама читалаца), док су аутори активни и пре појаве тих модела повећали обим свог рада, нарочито током 2025. године. Притом, и даље стоје иза великог дела квалитетније продукције.
Када су истраживачи пропустили узорак од око педесет хиљада књига кроз AI детектор, испоставило се да су за раст броја електронских издања углавном одговорни аутори који користе четботове.
Књиге се, дакле, секу да би их читале машине, а машине пишу књиге за које није сигурно да ће их ико прочитати.
Матрикс 2.0
Граница између језика и математике, семантике и статистике, тако постаје све тања. Ад хок „мисао“ коју добијамо на клик од вештачке интелигенције, иако на први поглед оригинална и интелигентна, није ствар разумевања, већ статистичког просека, обрасца, формуле, прорачуна…
Шта је одговор који нам исписује четбот, него, у крајњој линији, математика преведена у текст? Ми видимо реченице, а „испод“ њих су милијарде бројева које нико не гледа.
Сетите се „Матрикса“ и забавних сцена на палуби „Навуходоносора“, летелице којом Морфеусова посада крстари тунелима испод порушеног света – када на екранима непрекидно теку зелени низови кôда, а оператер их чита као што ми читамо новине – у њима види улице, зграде и људе.
Сценарио из „Матрикса“ преселио се из филма у медије, чији нас наслови застрашују (или засмејавају) да ће вештачка интелигенција постати свесна, роботи завладати светом, а људи им служити као батерије.
Разлог за то није пуки сензационализам. Језик одваја човека од осталих живих бића и иде руку под руку са нашом интелигенцијом, и уопште способношћу да мислимо. Још је Аристотел говорио да само човек има логос – реч која на грчком означава и моћ говора и моћ разума.
Машинама се данас, управо зато што могу да „говоре“, приписује и рационално мишљење, па се антропоморфизују и мистификују више него икада раније, мада више под утицајем Холивуда него Аристотела.
Чувена иронична изрека (по свој прилици погрешно приписана Оту фон Бизмарку) јесте да људи, када би знали како се праве кобасице и закони – оно прво не би јели, а ово друго не би поштовали.
Слично је и са вештачком интелигенцијом. Када би људи разумели како она заправо ради, програмерски речено, испод хаубе, можда је не би сматрали истински интелигентном, а сигурно би мање страховали од ње, уважавајући неспорну корист коју АI доноси у аутоматизацији процеса у привреди, бирократији, наоружању, истраживањима...
Последњу реч технологије није могуће објаснити у једном тексту, али је могуће указати на шта се сва објашњења своде. А своде се на једно: однос између речи и броја. Јер бројеви су једино што „ChatGPT“, „Џемини“, „Клод“ и други четботови (и рачунари уопште) заиста разумеју.
Мусолини − Италија + Немачка = ?
Замислите да пред собом имате задатак да дете, које не зна ниједну реч, научите да говори тако што ћете му дати да прочита сав текст који је икада написан на интернету. Звучи сумануто? Управо то је полазна тачка за стварање модерних модела вештачке интелигенције, попут оних са којима данас свакодневно „разговарамо“.
Стално се понављају објашњења да се вештачка интелигенција, односно велики језички модели (LLM) попут „ChatGPT-ја“, „Клода“ или „Џеминија“, тренира на огромној количини разноврсног текста, који су људи објавили на интернету у претходним деценијама.
Међутим, обично изостаје конкретно објашњење како једна машина, сачињена од софтверског кôда и силицијума, успева да у мору објава са друштвених мрежа, Википедијиних чланака и дигиталних књига пронађе смисао и проговори попут човека.
У суштини, машина приликом тренинга статистички обрађује текст, открива језичке обрасце и правилности у односима међу речима и пресликава их у математичку раван, претварајући речи у векторе и матрице (енгл. matrix), којима рачунари потом могу да манипулишу заједно са упитима који шаљемо као корисници – а затим их поново претвара у текст, тј. одговоре које добијемо. Машина притом користи огромну, и све већу, рачунарску снагу.
У раним системима који су речи преводили у бројеве (Word2vec), истраживачи су приметили да с тим бројевима може да се рачуна. Ако од низа бројева за реч „краљ“ одузмете низ за реч „мушкарац“ и додате „жена“, оно што добијете најближе је – „краљици“. У једном италијанском моделу, одузмете од „Мусолинија“ „Италију“ и додате „Немачку“, изађе – „Хитлер“.
То нису били трикови ни унапред спремљени одговори, него обично сабирање и одузимање дугих низова децималних бројева. Ти рани системи, додуше, нису умели да напишу реченицу; они су били само речник преведен у математику. Али су показали нешто кључно: да се односи међу речима, кад се преселе у бројеве, у њима заиста и сачувају.
Питање како се то изводи – и како је од тог речника настала машина која пише текст – оно је о чему ће овде бити речи.
Када је трансформер трансформисао свет
Сви данашњи водећи модели вештачке интелигенције изграђени су као вештачке неуронске мреже – компјутерски системи инспирисани радом људског мозга, који информације обрађују кроз испреплетене дигиталне „неуроне“. Није, међутим, увек било тако. Деценијама се вештачка интелигенција градила другачије, кроз ручно исписана правила и логичке кораке које су људи уносили један по један. Такав приступ је, испоставило се, могао да реши само проблеме који су му унапред тачно описани, али није могао да разуме реченицу.
Неуронске мреже, иако су познате још од средине 20. века, преузеле су примат тек у 21. веку, док је права прекретница настала 2017. године, са њиховом новом архитектуром, названом трансформер. Тај назив већина нас изговара свакодневно, а да то и не зна: слово „T“ у скраћеници GPT управо је трансформер – Generative Pretrained Transformer, генеративни, унапред трениран трансформер.
Архитектура дубоког учења о којој говоримо није постојала до пре мање од десет година. Група истраживача у компанији „Гугл“ објавила је научни рад под чувеним насловом: „Пажња је све што вам треба“ („Attention Is All You Need“, иначе алузија на песму Битлса „All You Need Is Love“).
У том раду представљен је управо трансформер. „Гугл“ је осмислио ту технологију, али су је у области АI прве потпуно искористиле и уновчиле друге фирме, пре свега „OpenAI“ са својим „ChatGPT“-јем.
Увезени револуционари
Иза епохалног успеха не стоји безлична корпоративна машинерија, већ група од осам визионара, у чијим се биографијама крије податак који данас звучи као политички и друштвени шамар стању духова у „land of the free“. Наиме, шест од осам твораца револуционарне технологије рођено је изван Америке, док су двојица из САД, али су потомци досељеника или страних научника.
Већина њих није била плод америчког образовног система од малих ногу, већ су то били готови, бриљантни умови, које је америчка технолошка империја просто усисала са различитих крајева планете, понудивши им ресурсе о каквима су у домовини могли само да сањају.
Тим врхунских инжењера и истраживача вештачке интелигенције тада је радио у „Гугловим“ истраживачким одељењима „Google Brain“ и „Google Research“.
Били су то млади људи на врхунцу креативне снаге, репрезентација света у малом. Научник Ашиш Васвани рођен је у Индији, као и инжењерка рачунарства Ники Пармар. Истраживач и програмер Иља Полосухин стигао је из Украјине, истраживач Лукаш Кајзер из Пољске, а стручњак за језичке моделе Лион Џонс из Велса. Најмлађи међу њима, тада двадесетогодишњи Ејдан Гомез, био је стажиста, студент из Торонта. Јакоб Ушкорајт рођен је у Калифорнији, где су му родитељи привремено боравили, мада је одрастао и школовао се у Немачкој. Осми члан тима, софтверски инжењер Ноам Шазир, рођен је у Филаделфији и потиче из породице емиграната из Совјетског Савеза, преко Израела.
Када се погледа уназад, делује потпуно невероватно да компанија која је буквално покренула AI револуцију допусти да је други претекну у њеном коришћењу. Технолошки гигант је измислио и свету поклонио најмоћнији мотор данашњице.
У почетку беше токен...
Све почиње „великим праском“ података. Модел на почетку гута хиљаде милијарди речи са мреже, али их не види онако како их ми видимо. За рачунар, текст је само непрегледан низ симбола. Да би унео ред у тај хаос, текст се прво подвргава ономе што програмери зову токенизацијом.
Замислите то као процес у којем супербрзи дигитални скалпел сече реченице на ситне парчиће – такозване токене. То често нису чак ни целе речи, већ њихови делови, префикси или наставци, као и интерпункцијски знаци. Иначе, у свету вештачке интелигенције ови токени су заправо основна валута: они служе као мера за потрошњу и саобраћај података, па када плаћате коришћење неког модела АI, заправо плаћате број токена које је машина обрадила.
Тим комадићима мери се и величина самог тренинга. Модел „Llama 3“ компаније „Мета“ трениран је на око петнаест хиљада милијарди токена. Да један човек чита без престанка, дању и ноћу, за толико текста било би му потребно око сто хиљада година.
Реч постаје вектор
Права магија, међутим, почиње у следећем кораку тренинга, када се за сваку различиту реч, односно сваки јединствени токен, формира вишедимензионални вектор. То је дуги низ бројева, некада и више хиљада, направљен на основу употребе речи у маси текстова коришћених за тренинг.
Вектор служи као математички кôд за смисао речи, због тога што низ бројева који га чини није одабран насумично, већ статистички одражава начин на који се реч (тачније, токен) употребљава и положај у којем се најчешће налази у односу на друге речи. Језик тако престаје да буде текст и постаје математика.
У визуелном смислу, сећамо се из школе, вектор је стрелица која има величину, правац и смер, а одређен је координатама у тродимензионалном простору. Тако смо представљали векторске величине попут брзине, убрзања, силе…
У случају модела вештачке интелигенције, вектор је одређен поменутим низом бројева, који служе као координате у простору. Зато га је тешко визуелно замислити, јер има хиљаде димензија, а не три.
За лаике, најлакше је да замисле један џиновски, невидљиви координатни систем, али не са две осе (x, y) нити са три (x, y, z), већ са стотинама или хиљадама оса. Свака реч или токен, дакле вектор, добија своје јединствене координате у том простору, свој правац, који представља значење речи. Што је значење речи сличније, то су вектори који те речи представљају – ближи један другом.
Реч вектор није случајно изабрана. Ни раније, ни сада. На латинском, vector значи „носилац“. У природним наукама, он је носилац физичких величина. У медицини носилац заразе. У великим језичким моделима вештачке интелигенције, вектор је постао ствар семантике – носилац значења.
На самом почетку тренинга, те координате су потпуно насумичне и хаотичне. Али како модел чита све више текста, систем сâм уочава законитости. Речи које се појављују у сличном друштву – „црвено“, „плаво“ и „зелено“, или „пас“ и „мачка“ – математичка гравитација почиње да привлачи једну ка другој, и оне завршавају близу у том огромном космосу значења.
Вреди приметити шта модел ту заправо мери. Не значење, него статистику употребе. „Црвено“ и „плаво“ нису синоними, штавише, међусобно се искључују – али стоје на истим местима у реченицама, окружене истим речима, па за машину постају блиске.
На овај начин модел гради свој почетни речник, који може да садржи и више од 100.000 јединствених токена и њихових основних математичких кодова. Међутим, то су само основна, „сирова“ значења речи, суве дефиниције – онакве какве бисмо пронашли у обичном речнику.
Све зависи од контекста
Прави говор је, ипак, сасвим друга прича. Речи су живе, њихово значење се потпуно мења у зависности од „друштва“ у којем се налазе. То друштво је контекст. У реалном језику, али и у великим језичким моделима АI.
Узмимо за пример реч „коса“. У „речнику“ њен фиксни вектор налази се негде између фризерског салона, пољопривредног алата, геометрије и планинских падина.
Пре трансформера, старији системи (рекурентне неуронске мреже, РНН) читали су текст онако како човек чита књигу – реч по реч, редом. Сналазили су се са контекстом, али су на дужим растојањима губили нит – док стигну до краја пасуса, почетак им се већ замаглио.
Трансформер је ту логику променио. Он чита цео текст одједном, мерећи однос сваке речи према свим претходним. Одатле долази његово баратање контекстом – али и још нешто подједнако важно. Посао који се обавља одједном може да се расподели на хиљаде процесора истовремено, који паралелно обрађују више делова текста. То је отворило врата тренингу на количинама текста какве раније нису долазиле у обзир. Величина коју данас видимо није настала само зато што је неко имао више података, него зато што је најзад постојала архитектура способна да их прогута.
Контекст је мост који сировим речима даје прави смисао, омогућавајући машини да „схвати“ иронију, емоцију и дубљу намеру нашег питања како би формулисала тачан одговор.
Тешке речи у центру пажње
Права трансформација и стављање речи у контекст настаје тек када се они почетни, основни вектори пропусте кроз десетине, некада и више од стотину узастопних слојева, где у сваком од њих ради такозвани механизам пажње. Ови слојеви се подешавају током оног истог, мукотрпног тренинга на хиљадама милијарди речи са интернета, када модел паралелно „учи“ правила језика и односе међу речима и препознаје структуре.
Сво то научено знање слеже се у оно што се зове тежинама (weights) – милијарде бројчаних вредности у којима су се слегле правилности целог језика: како се речи слажу, шта на шта утиче, која реч мења значење које, шта обично следи после чега. То одмеравање – колико која реч треба да „обрати пажњу“ на коју – управо је пажња из наслова рада из 2017. године.
У истим тим бројевима налази се и оно што бисмо назвали знањем о свету – да је Париз у Француској, да се вода мрзне на нули... Само што то знање нема људско разумевање, него је статистичко, избројано: што се нека веза чешће јављала у скенираним текстовима, модел је поузданије репродукује.
Кључно је разумети да су тежине непроменљиве. Оне су резултат тренинга и кад је тренинг једном завршен, више се не мењају – ни док разговарате с моделом, ни после милион разговора. Замислите их као брушена сочива: сочиво стоји непомично, а слика која кроз њега пролази се мења. Оно што се у сваком разговору помера јесте место које реч заузима у простору значења, док прелази с једног слоја на следећи. Модел, дакле, не учи док говори с вама. Он само пропушта ваше речи кроз оно што је научио раније. (Не треба мешати ваш конкретан разговор где четбот памти претходна питања и одговоре док разговор траје, са самим моделом АI као софтвером инсталираним на онлајн-серверима који остаје исти и не ажурира се кроз разговор са вама.)
Ти бројеви, односно тежине, притом су распоређени по слојевима и сваки слој ради део посла. Слојеви „хватају“ оно најближе граматици – ко се на кога односи, коме припада који придев – а затим и оно теже: смисао реченице у целини, намеру, тон, иронију. Реч тако путује кроз низ слојева и на сваком следећем излази са нешто прецизнијим значењем него на претходном.
Тежине су заправо право срце система и право знање које машина поседује. Када данас у вестима чујете да је неки модел вештачке интелигенције отворених тежина, open weights, то значи да су његови аутори јавно поделили управо ове милијарде бројки, омогућавајући свима да преузму комплетну мапу знања коју је машина мукотрпно учила месецима.
Матрице и математички цунами
Унутар слојева, тежине су организоване у математичке матрице. Замислите их као огромне Ексел табеле у којима су низови бројева поређани један поред другог. Помоћу тих матрица модел у делићу секунде израчунава односе између речи у реченици.
Причамо о димензијама које су људском уму несхватљиве – реч је о милијардама децималних бројева који се у сваком тренутку међусобно множе и сабирају.
Ова застрашујућа математичка папазјанија обрађује се такозваним множењем матрица, што је операција која покреће прави математички цунами и захтева толику рачунарску снагу да је за тренинг неопходна инфраструктура састављена од хиљада најмоћнијих чипова на планети.
Тако, када напишете реченицу, модел у тренутку израчуна која реч највише утиче на коју, прилагоди њихове математичке кодове и сирове токене уклопи у прави контекст, док основна „дефиниција“ речи остаје иста.
Ако модел добије реченицу „Девојка има дугу и сјајну косу“, тежине и матрице ће препознати присуство речи „девојка“ и „сјајну“, па ће моментално повући координате речи „коса“ дубоко у територију фризура и изгледа.
Ако пак реченица гласи „Планинари су се опрезно пели уз косу падину“, модел ће израчунати односе између речи „планинари“ и „пели“, па ће у тренутку одбацити фризерски салон и значење речи „коса“ привући територији географије и стрмог терена.
Захваљујући том непрекидном, динамичном плесу привлачења и удаљавања у векторском простору, вештачка интелигенција успева да ухвати контекст и оно што смо заиста хтели да кажемо.
Оно што ми називамо интуицијом и разумевањем, за машину је заправо игра милијарди бројева и матрица који прецизно управљају саобраћајем у простору значења.
Халуцинирање на високој „температури“
Супротно популарном веровању, вештачка интелигенција нема унапред спремљене одговоре. Она заправо игра једну бесконачну игру погађања: „Која је следећа реч?“
Начин на који то ради вреди замислити тачно онако како се дешава. Кад вам модел одговара, он не пише одмах целу реченицу, него једну по једну реч. Да би нашао сваку следећу, цео текст који је до тог тренутка написан – ваше питање и све што је дотад одговорио – пропушта кроз све слојеве, до краја, и на излазу добија оцену за сваки појединачни токен у свом речнику. Свих сто хиљада њих, поређаних по вероватноћи, за једну једину реч.
Ако реченица гласи „Појео сам парче укусне...“, на врху те листе наћи ће се „пице“, одмах иза ње „торте“, док ће „аутомобила“ бити негде при дну, с вероватноћом израженом у милионитим деловима процента.
Машина потом бира наставак – али, супротно очекивању, не узима увек онај највероватнији. Она бира из самог врха листе, уз малу, намерно уграђену дозу случајности коју програмери подешавају. Та доза зове се „температура“.
Назив је позајмљен из физике, где виша температура значи и више нереда – што је нижа, машина се чвршће држи највероватнијих речи, а што је виша, у игру улазе и оне мање вероватне, па је текст маштовитији, али и склонији лутању. На нули случајности скоро да нема, па би модел на исто питање, углавном, давао идентичан одговор.
Управо та контролисана несигурност чини да његов текст делује живо уместо механички и објашњава нешто што је сваки корисник приметио: ако исто питање поставите двапут, добићете два различита одговора.
А онда изнова. Изабрана реч се дописује на крај текста и поступак се понавља за следећу: поново кроз све слојеве, поново оцена за стотинак хиљада токена. Па опет, и опет. Машина при сваком кораку одмерава целу дотадашњу причу (додуше, памти међурезултате да не би баш све рачунала испочетка).
Одговор који читате за пар секунди тако је низ од неколико стотина засебних прорачуна, од којих сваки узима у обзир цео дотадашњи разговор.
Ту је, успут, и разлог зашто вам дуги разговори с моделом иду све спорије. Што више текста стоји иза вас, то више машина мора да прочита да би нашла једну једину следећу реч. Оно што нама изгледа као течан разговор, заправо је ланац муњевитих математичких прогноза.
Из тог начина рада произлази и најпознатија мана система АI, оно што се назива халуцинацијама.
Модел, наиме, не тражи тачну реч него вероватну, а то најчешће буде иста ствар – док не буде, јер вероватноћа долази из статистике прочитаног текста, а она се не поклапа увек са стварним светом.
Машина греши истим мирним тоном којим говори истину. На листи вероватноћа нема ознаке за истинито и лажно, само за вероватно и мање вероватно, а тренинг ју је научио да радије погоди него да каже „не знам“.
Паметан, али неваспитан
Међутим, само читање интернета и погађање следеће речи ствара опасну машину.
Замислите да је оно дете са почетка приче читало све – од научних радова до најмрачнијих форума. Добили бисте модел који је невероватно паметан, али у исто време неваспитан, склон увредама или давању опасних савета. Тако настаје основни модел.
Да би овај дивљи интернет-геније постао користан асистент попут „ChatGPT“-ја, следи кључна фаза: фино подешавање и усклађивање.
Људи моделу АI дају задатке и оцењују његове одговоре. Кроз милионе примера, машина у последњој етапи тренинга преправља бројеве (тежине) у својим матрицама. Она учи да своје знање каналише тако да буде безбедна, културна и корисна за људе.
Огледало ума или корисни папагај
На крају, када се скине вео мистике, у језгру вештачке интелигенције нема ни свести, ни душе, ни намере. Постоји само математика застрашујућих размера – и у томе, само по себи, нема ничег лошег.
Та математика успева да постигне нешто чудесно. Пресликавајући милијарде наших написаних речи у свој невидљиви координатни простор, трансформери су заправо изградили својеврсно математичко огледало људског ума, решавајући задатке који су донедавно деловали немогуће.
Невоља почиње када не видимо докле вештачка интелигенција сеже и да њена ограничења не долазе из тренутног недостатка новца или довољно моћног хардвера, већ су суштинска и произлазе из саме природе такве технологије.
„Они (велики језички модели) у суштини само гомилају знање... Могу нешто папагајски да понове, тренирате их да понављају, али нису нарочито паметни. Немају суштинско разумевање“, сматра један од „кумова“ АI и дубоког машинског учења, француско-амерички научник Јан Лекун.
Вештачка интелигенција, дакле, не мисли као ми, бар не још увек, али кроз игру бројева и вероватноће имитира или репродукује нашу интелигенцију, знање и начин на који комуницирамо.