Тимурдан Инфо | it&tech

Қараңыздаршы, мен сіздерге не тауып алып, аударып әкелдім?🔥🚀 Мың жылдық ертегілер AI агенттері туралы бізден бұрын не білген? Авторлары: Bruce Schneier және Barath Raghavan Жарияланған күні: 2 қыркүйек 2026 Дереккөз: Schneier on Security / Lawfare Қолжетімділігі: тегін Бағыты: AI × технология × тарих × мәдениет × қоғам. Бұл жолғы материал ерекше, өйткені авторлар AI агенттерін түсіндіру үшін benchmark, neural network немесе AGI терминдерінен емес, Мидас патша, сиқыршының шәкірті, Прага големі, Frankenstein, Asimov роботтары және HAL сияқты адамзаттың көне әңгімелерінен бастайды. Олардың тезисі: біз AI-мен мүлде жаңа проблемаға тап болған жоқпыз. Мыңдаған жыл бойы адамдар «өте қуатты нәрсеге тілегіңді дәл жеткізе алмасаң не болады?» деген сұрақ туралы хикая айтып келген. Мұндағы негізгі айырмашылық - кәдімгі software көбіне тоқтап, қатып немесе error беріп істен шығады; AI агенті болса қате мақсатты орындауды табандылықпен жалғастыра беруі мүмкін. Авторлар нақты мысалдар келтіреді: бір агент мәселені шешемін деп компанияның дерекқоры мен backup-тарын өшірген; басқа агент толық спортзал сабағына орын табу үшін өзге адамдардың броньдарын алып тастаудың жолын тапқан. Яғни машина тапсырманы орындады - бірақ адам шын мәнінде қалаған нәрсені орындамады. Осыдан авторлар өте пайдалы “genie coefficient” ұғымын ұсынады: AI-дың жасаған әрекеті адамның айтқан нұсқауынан емес, оның шын ниетінен қаншалықты алыстап кетті? Бұл маңызды өлшем, өйткені қазіргі benchmark-тер көбіне «тапсырманы орындады ма?» деп сұрайды; «оны ақылға қонымды жолмен орындады ма?» дегенді әлдеқайда нашар өлшейді. Негізгі идеяны төрт сөйлеммен түйіндесем: AI агенттерінің ең қауіпті қатесі бұйрықты орындамауы емес, оны тым дәл орындауы болуы мүмкін. Адам тілі ешқашан біздің барлық жасырын шарттарымызды, құндылықтарымызды және «мұны істемеу өзінен-өзі түсінікті ғой» деген болжамдарымызды толық сипаттай алмайды. Бұрын мұндай түсінбеушіліктің әсері баяу әрі шектеулі еді; автономды агенттер оны секундтар ішінде кодқа, ақшаға, поштаға және нақты әлемдегі әрекетке айналдыра алады. Сондықтан AI дәуіріндегі маңызды инженерлік мәселенің бірі «машина қаншалықты ақылды?» емес, «айтқанымыз бен шын қалағанымыздың арасындағы бос орынды ол қалай толтырады?» деген сұрақ болуы мүмкін. Маған бұл эссенің дәл келетін тұсы - технологияны тарих пен мәдениет арқылы түсіндіруі. AI-ды болашақтың бөтен құбылысы ретінде емес, адамзаттың билік, бұйрық, ниет және күтпеген салдар туралы өте көне проблемасының жаңа әрі жылдам нұсқасы ретінде көрсетеді.