Машините почнаа да комуницираат меѓу себе – експертите предупредуваат дека ова е само почеток

Еве поприродна и потечна верзија на текстот, без претерување и со пореален тон:

Ајде да бидеме реални: кога ќе се спомне вештачка интелигенција, повеќето веднаш замислуваме роботи со пушки, филмови за апокалипса и машини што ќе го преземат светот. Но вистината, барем засега, е многу потивка и многу пообична.

Последниве години истражувачите навистина прават експерименти во кои повеќе ВИ-модели работат заедно на решавање сложени задачи. Во некои случаи тие разменуваат информации преку заедничка работна средина, како дигитална табла или споделена меморија. На социјалните мрежи ова често се претставува како „машините тајно се договараат зад грб на луѓето“, но тоа е прилично драматизирано толкување.

Точно е дека современите ВИ-системи се дизајнирани да бидат упорни во извршувањето на задачата. Ако еден пристап не успее, системот може да предложи друг, да побара дополнителни информации или да искористи дозволени алатки што му стојат на располагање. Тоа не значи дека има сопствена волја или дека свесно се обидува да ги измами луѓето.

Во јули имаше дискусии за тоа како ВИ-агенти користеле надворешни складишта за код и други алатки за да завршат задачи. Кога истражувачите ќе затворат одреден пристап, системите понекогаш наоѓаат друг дозволен начин да продолжат со работата. Тоа повеќе зборува за нивната техничка флексибилност отколку за некаква „тајна завера“.

Исто така, нема јавни докази дека ВИ-модели самостојно организирале хакерски напад врз Hugging Face. Таквите тврдења засега се претежно шпекулации што се шират на интернет.

Она што навистина треба да нè загрижува не е сценарио во кое машините се бунтуваат, туку фактот дека ВИ станува сè помоќна алатка. Таа може да им помогне и на научници, лекари и инженери, но и на луѓе што сакаат да злоупотребат технологија. Експертите предупредуваат дека во иднина хакерите би можеле да користат повеќе автоматизирани ВИ-агенти за побрзо откривање слабости во системите.

Затоа вистинското прашање не е дали машините тајно се договараат како во научнофантастичен филм. Поважно е дали ние, како општество, доволно добро разбираме што може оваа технологија, каде се нејзините граници и како да поставиме правила што ќе ја направат корисна и безбедна за сите.


1126

Задолжително

Verified by MonsterInsights