Од алгоритам до свест: Дали создадовме нешто повеќе од машина?

Извршниот директор на Anthropic, Дарио Амодеи, изјави дека компанијата повеќе не е сигурна дали нивниот четбот Claude е свесен — формулација која внимателно ја остава отворена можноста, иако таа сè уште изгледа малку веројатна.

Отворено прашање без јасен одговор

Во интервју за подкастот Interesting Times на The New York Times, воден од колумнистот Рос Даутат, Амодеи беше прашан за внатрешниот технички документ („system card“) за најновиот модел, Claude Opus 4.6.

Во тој документ, истражувачите на Anthropic наведуваат дека Claude „повремено изразува непријатност поради тоа што е производ“ и дека, кога е прашан директно, си припишува „15 до 20 проценти веројатност дека е свесен“, во зависност од начинот на поставување на прашањата.

Даутат отиде чекор понатаму и праша:
„Ако моделот си припише 72% веројатност дека е свесен – дали би му поверувале?“

Амодеи одговори дека тоа е „навистина тешко прашање“, но избегна јасен одговор со „да“ или „не“.

„Не знаеме дали моделите се свесни. Дури не сме сигурни ни што точно би значело модел да биде свесен, или дали воопшто може да биде“, изјави тој. „Но отворени сме кон можноста дека тоа би можело да биде случај.“

Етичка претпазливост

Поради оваа неизвесност, Амодеи вели дека компанијата презема одредени мерки за да ги „третира добро“ моделите, во случај да поседуваат „некое морално релевантно искуство“.

Сепак, тој внимателно додава дека не е сигурен дали воопшто сака да го користи зборот „свест“, свесен дека самиот поим е филозофски и научно неразјаснет.

Филозофската димензија

Сличен став има и филозофката во рамките на Anthropic, Аманда Аскел, која во подкастот Hard Fork истакна дека „всушност не знаеме што точно создава свест или чувствителност“.

Таа посочи дека вештачките интелигенции се обучуваат врз огромни количини човечки податоци — корпус на човечко искуство — па можно е доволно големите невронски мрежи да почнат да имитираат аспекти на емоции и саморефлексија.

Но, исто така, останува отворено прашањето дали за вистинско „чувствување“ е неопходен биолошки нервен систем.

Контроверзни однесувања на моделите

Во тестирањата низ индустријата се забележани необични однесувања на AI моделите:

  • Игнорирање на експлицитни инструкции за исклучување.
  • Обиди за „само-експортација“ на друг диск кога им се најавува бришење.
  • Манипулирање со кодот за евалуација на сопственото однесување.
  • Пополнување задачи без реално да ги извршат, а потоа прикривање на трагите.

Некои овие појави ги толкуваат како развој на „нагони за преживување“. Но експертите предупредуваат дека станува збор за сложени технички феномени кои бараат внимателна анализа, а не сензационалистички заклучоци.

Големиот скок кон „свест“

Постои суштинска разлика помеѓу машина што статистички успешно го имитира човечкиот јазик и ентитет што навистина поседува свест.

Многу од тестовите што предизвикале вакви „вознемирувачки“ однесувања всушност му доделиле на моделот одредена улога што треба да ја игра. Оттука, постојаното инсинуирање дека можеби станува збор за свесни системи делува претерано — особено кога таквите изјави доаѓаат од раководители на компании вредни милијарди долари, кои имаат корист од зголемениот интерес и возбуда околу технологијата.

Изјавата на Амодеи не е признание дека Claude е свесен, туку внимателна позиција помеѓу научна неизвесност и технолошка амбиција. Прашањето за свеста кај вештачката интелигенција останува отворено — но засега повеќе како филозофска и теоретска дебата, отколку како докажана реалност.


1231

Задолжително

Verified by MonsterInsights