DARVESHONA

СИ ИНСОНИЯТНИ ЙӮҚ ҚИЛАДИМИ? Жеффри Хинтон (Geoffrey Hinton) 2024 йилда Жон Хопфилд билан бирга физика бўйича Нобель мукофотини олган. Нобель қўмитаси уларнинг ишини сунъий нейрон тармоқлари асосидаги машинали ўрганишга асос солган кашфиёт ва ихтиролари учун мукофотлаган эди. The Times кеча Хинтоннинг суперинтеллектни хавфсиз яратиш бўйича илмий консенсус йўқлиги ва назорат йўқолса, оқибатлар жуда оғир, ҳатто инсоният ҳаётига таҳдид солиши мумкинлиги ҳақидаги огоҳлантиришини ёритган. Хинтон ӯз мақоласида агар инсондан ақллироқ ва мустақил система пайдо бўлса, уни қандай қилиб ишончли назорат қилиш мумкин, деган ташвишли фикр билдирган. Ҳақиқатдан СИ инсониятнинг ер юзидаги ҳаётини йӯқ бӯлиб кетишига таъсир кӯрсата оладими? Ҳозир СИ томонидан амалга оширилаётган реал хавфлар — дезинформация, киберҳужумлар, фирибгарлик, автоном агентларнинг нотўғри ҳаракатлари, иш ўринларига таъсир — булар фантастика эмас. Агар СИ компьютерларга, пулга, кодга, роботларга ва бошқа тизимларга мустақил равишда таъсир қила бошласа, хато қарорнинг масштаби кескин ошади. Бугунги СИ агентлари билан боғлиқ хавфсизлик ҳодисалари ҳам бу масала назарий эмаслигини кўрсатмоқда. Мутахассисларнинг фикрича инсониятнинг йўқ бўлиб кетиши — эҳтимолий сценарий, аммо исботланган башорат эмас. Бизда «суперинтеллект албатта инсонни йўқ қилади» деган илмий далил йўқ. Аммо аксинча, «бундай система пайдо бўлса, уни 100% назорат қила оламиз» деган ишончли кафолат ҳам йўқ. Мана шу ноаниқлик Хинтонни хавотирга солмоқда. Хинтоннинг энг кучли аргументи нимада? У «СИ кейинчалик ёвузлашиб кетади» деган фикрда эмас. Асосий муаммо — мақсадлари бизникига тўлиқ мос бўлмаган, биздан анча ақлли ва катта автономияга эга система пайдо бўлиши. Масалан, сиз жуда кучли компьютерга «Менинг мақсадимга эришишга ёрдам бер» деб топшириқ бердингиз. У мақсадга эришишнинг сиз хаёлингизга ҳам келмаган йўлини топиши мумкин. Агар унинг имкониятлари инсонникидан миллион марта юқори бўлса, «тўхта» дейиш ҳар доим ҳам етарли бўлмаслиги мумкин. Бу ерда интеллектнинг ўзи эмас, СИнинг катта ресурсларга кириш имконияти хавфни оширади. Хинтон ҳақиқатан ҳам замонавий deep learning’нинг энг муҳим пионерларидан бири, аммо «ChatGPT ва автопилотларни айнан Хинтон ихтиро қилмаган. Замонавий СИ кўплаб олимлар ва муҳандисларнинг ўнлаб йиллик ишлари натижаси. Нобель қўмитаси ҳам унинг ҳиссасини нейрон тармоқлари ва машинали ўрганишнинг фундаментал асослари сифатида баҳолаган. Хинтоннинг ташвишли фикрлари ҳақиқатдан эҳтиёт чораларини кӯришга ундайди. Лекин шундай экан деб СИ тадқиқотини тўхтатиб қўйиш шарт эмас. Аммо жуда кучли автоном СИни яратиш тезлиги хавфсизлик, тестлаш, мониторинг ва халқаро қоидалардан анча олдинлаб кетмаслиги керак. Бугунги муҳокамалар ҳам айнан шу томонга кетяпти, кӯп давлатларда, жумладан, Британияда суперинтеллект хавфсизлиги бўйича қонун лойиҳаси муҳокамага чиқарилган. Бундан кейин келажакда сунъий интеллект инсониятни йўқ қилиши эҳтимоли хавфи сақланиб қолади. Шунинг учун ҳозирдан эҳтиёт чоралари кӯравериш керак. Энг қизиқ савол эса бошқа: «Инсондан ақлли СИ пайдо бўлса, уни қандай қилиб инсон манфаатига содиқ ҳолда ушлаб турамиз?» Бу саволга ҳозирча ҳеч кимда тўлиқ жавоб йўқ.

Til bizni bir-birimizdan uzadi. Tushunishimizni qiyinlashtiradi. Avval SO‘Z bo‘lgan deymiz. Qarasam, so‘zdan avvalchi? So‘z tayyor ishlanguncha vaqt kerak edi. Tovush bo‘lgan. Biz tovush va harakat orqali hechqanday to‘siqsiz tushuna olamiz bir-birimizni. Afrikalik qabila bilan ham, shimoldagi chukcha bilan ham. Va eng avval odamlar shunday muloqotlashgan. Hayvonlar ham. Hayvonlar hozir ham shunday gaplashadilar. Va biz tovushdan uzoqlashgach, hayvonlarni tushunmay qo‘ydik. Yana yillar o‘tib tovushga qaytamiz. Yagona til. Haqiqiy metafora, ramziy til. Sheʼriy, poetik til...

Shoshma. Hechqayerga shoshma. Shoshmasdan ham kechikmaslik mumkin. Shoshib ketayotgan odam hech go‘zallikni ko‘rmaydi. Qushlarni eshitmaydi. Dispasito (ohista) harakat garmoniya beradi. Shoshma. Qiyofalar, osmon, shovqin va shular ichida o‘zingni kuzatishga imkon ber sokinlik aro. Toshbaqa sekin yurmaydi senga aytishganidek. Shilliqqurt imillamaydi. Shoshma. Sentyabrni his qil. His qil barglar sarosimasin. Senga atalgan boylik o‘sha joyda. Senga atalgan g‘am o‘sha joyda. Sendan boshqasini mensimas ular. Shoshma. Oyoqlaring yer taftini, yer qadaming ohangini his qilsin. Bekatda avtobus kutayotgan avgustga qo‘l silki. Eslab ketayotgan avgust mayus chehrasin. Shoshma. Sevgi o‘sha yerda. Ayriliq o‘sha yerda. Sendan o‘zgasini mensimas ular... @Jontemir_t

Bolalikda yashinmachoq o‘ynardik. Bir kishi qidiradi, qolganlar bekinadi. Unda kimdan nima uchun yashirinayotganimni aniq bilardim. Hozir ham yashirinaman, daraxt, devor, tandir emas, sheʼr, ehtitkorlik, "yaxshi odam" qiyofasi, shoir nomi ortiga. Lekin kim yo nimadan bekinayotganimni bilmayman. Yashirinish ehtiyoji asosan biqiq jamiyat bosimidan tug‘ilsada, aynan jamiyat qo‘rqitmaydi, lekin yashirinasan. Iso ham ahmoqlardan qochayotganda yashirinishga joy izladimikin? Va yashiringan joying xavfdan holi emasligini bilasan. Bu yashirinish xuddi bolakay ko‘zlarini jirt yumib, meni hechkim ko‘rmayapti deb o‘ylashiga o‘xshaydi. Boyliging ortiga yashirganing nima masalan? Ko‘rgazmali dindorliging ortiga bekitganingchi? Demakki yashirinmayapman, yashiryapman nimanidir! Ruhimni balki? Vijdonimmi yo? Va nega yashirmoqchiman? Kimdan? Kimdir topib olishi uchun atay yashirish istagi paydo bo‘ladimi? Qaroqchilar it topmas orolga xazina ko‘mishlari — uni birov topishi uchunmi? Shundadir zavq? Sheʼr ichiga yashirgan his, o‘zlik, g‘oyalar topilishni uchunku axir...

G‘alati holat bo‘ladi. Sheʼr yozayotgan paytim, parallel boshqa sheʼr keladi miyaga. Qog‘ozdagini to‘xtatib, o‘sha kelgan boshqasini ham yo‘qotmaslik uchun patir-putur telda yozib tashlayman. U tugamasdan, shahmat o‘ynayman, yana qog‘ozdagini davom ettiraman, kitob o‘qiyman va yana yozaman. Qizig‘i hammasi bir paytda! Hechqachon miyamga birdaniga bir sheʼr yo bir fikr kelmaydi. Bir varakayiga o‘nlab keladi oqib. Qaniydi hammasini ushlab qololsang. Hozir ham mana shu holat haqida yozayapmanu boshqa fikr haqida o‘ylayapman. Yuzta qo‘lim bo‘lsaydi. Yanayam yomoni, fikr qog‘ozga tushguncha mukammal! Qog‘ozga mingdan biri tushadi. Sheʼr ham shu. Siz o‘qiyotgan misralar chaqinday miyada portlagan sheʼrning zarrasi xolos. Hechqachon to‘liq, haqiqiy qudrati bilan yozib ololmaysan. Hislarimiz ham to‘liq ifodalanmaydi demak. Va shu chala holati go‘zal ko‘rinadi. Bitmagan baxt, bitmagan sheʼr, bitmagan... Xullas oxiriga yetmagan nimaiki bor — go‘zal! Oxiri nima bo‘ladi? Bu savol go‘zallikni yo‘q qiladi. Go‘zallik oxirgacha bo‘lgan harakat, zavqda! Uyqu emas, uyqusirab, ko‘z oldim shuvalib, so‘zlar, sharpalar, chalkash fikrlar qorishuvidagi to uxlab qolguncha bo‘lgan daqiqalar kayf! Shundan bilingki, biror ijodiy ish yakunlanmagan. Nuqta qo‘yilmagan. Qo‘yolmaydi istasa ham! Mobodo yakunlansa, o‘sha lahzada bari tugaydi! Hech qachon tugatolmas... (o‘xshamayapti) Nuqta qo‘yilmagan... (uff) Ey, mayli. Alqissa faqat o‘limda yakun bor. Faqat u ishini chala qilmaydi. U barcha chalalarni yakunlovchi. @Jontemir_t

Bo‘shliq to‘lmaydi. To‘lmaydi yurak. Qorbobo qopiday tubsiz istaklar — Yetgan saring ovoz kelar: Yana! Yana! Yana! Doim nimadir kam. Doim. Nimadir... Uuvvv shamollar doyasi — ummon! Uuvvv sahrolar erkasi qum-qum! Ming yillik momotoshlar ajinlarin o‘qiyman hijjalab — Oxir qayerda? Qayerda yakun? To‘yim qayerda? @Jontemir_t

Rumiy ayatdi: qaraganing men, ko‘rganing sensan! Menda nimani ko‘rsang, u asli o‘zingda bor demoqchi. Dunyoni rasvo ko‘radiganlar ichida bor o‘sha xaroba. Qay odamda ifloslik ko‘radiganlarning o‘zida ham bor o‘sha marazlik. Va yana shuni anglayapmanki, qochgan narsang (balki odaming) ham aslida san. San qochmas odamlar — sani bilmas odamlar. Sani biladigan odam sani o‘zinga fosh qilishi mumkin. O‘zingdanam yashirib yurgan istak, tuyg‘ularingni. Sani bilmas odamlarga istagan qiyofangda ko‘rina olasan. Ular ishonadi. Ishonmasayam eʼtibor bermaydi. Muhim emassan. Sani bilar odamga esa hechqanday niqob bilan ko‘rinolmaysan. Yaxshi yo‘l qochish! O‘zimizdan qochish mumkinmi? Yana yolg‘on ko‘rinish uchun!

Hechkim hissizlashib, hechkimning hayrati o‘lgani yo‘q. Shunki avvalgi hissiyot beradigan, hayratlantiradigan narsalar eskirdi. Yangi odam dunyoga keldi. Va biz haliyam eski narsalar beryapmiz unga, keyin taʼsir qilmasa noliyapmiz.

Yana bitta darvesh xurjuncha sovg‘a oldim. Muslima singlimizdan. Rahmat.

Kallasi bo‘m-bo‘sh odamlar ko‘o‘o‘p uxlashadi. Kamiga ahmoq bo‘lsa, yanayam degan maʼlumot o‘qigandim. Endi bugun baxtsizlik sababi kam uxlashda degan gap eshitib blaaa dahshatli darajada baxtsiz ekanman deb qoldim. Bundanam battar baxtsiz bo‘lay. Tovuq kalla! Uyquni baxtga aloqasi yo‘q. Xay, tunda, uxlaganda ajraladigan garmonlar bor. Baxt esa boshqa. Tuni bilan uxlolmay eeeertalab, bitta jinni sheʼr yozib qo‘ysang, ana baxt! Bitta tentakni sog‘insang, Bitta odamga yaxshilik qilolsang, Harakatda bo‘lsang, O‘zing yeb, o‘zing hazm qilolsang, Hasad qilmasang, Sevolsang dushmaningni ham... ana baxt! Bittasi tirnog‘ing uzun, baxtsiz bo‘lasan, ichida shayton yashaydi degandi. Ha, tupoygina! Shayton tirnog‘imni emas, mani ichimda! Qonimda! Qonimizda! O‘sha bilan baxtliman-ku! Mazzadae

‍SHAKL Meni bog‘lab qo‘yishgan. Sen ko‘rinib turgan, ammo yetolmas yerga qantarib qo‘yishgan meni. Ona sigirning suti iyishi uchun edir qilinib, sudragancha nariga tortib bog‘langan buzoqchadek og‘zim ko‘pirib intilaman senga. Bor kuchim bilan talpinaman – arqon bo‘g‘adi. Nafasim qaytib, to‘xtayman. Yana talpinaman. Yana. Holdan toyaman oxir. Sen ham noiloj javdirab turaverasan. O‘rtadagi taqiq, to‘siq, qoidalar esa sendagi ishtiyoq, cho‘g‘ tuyg‘ularni ko‘zlaringdan "sog‘ib" olaveradi. Tushun – deyman senga – biz bizni Yaratgan yaratgan narsalar: muhabbat, ishq, tuyg‘u, hissiyot, ehtiroslarni boshqarolmaymiz. Qo‘y ularni o‘z holiga! Biz o‘zimiz yaratgan narsalarnigina boshqara olamiz, xolos. Ortig‘iga chiranma. Yo‘q. Sen hammaga o‘xshashni, o‘zlari yaratgan qonunlarga o‘zlari qul bo‘lgan ommadek yashashni istaysan. "Axir ular boshqara olishayapdi-ku!" deysan g‘azablanib. Unday emas! Ularda tashnalik yo‘q! Muhabbat yo‘q! Robot ular! Hissiz, tuyg‘usiz maxluqlar podasi! Shuning uchun ham biz qoidalarga amal qilayapmiz, deya o‘zlarini oqlashga urinadilar va o‘zgacha – ruhi telbalarni qoralaydilar. Bir zamonlar yer telbalarga tegishli edi, degan ko‘hna haqiqatni inkor etishadi. Qalblariga junun in qurmagan chunki. Asalari bilan gul qovishuviga boq! Yomg‘ir bilan zamin, chaqmoq bilan osmon visoliga boq. Bu yerda faqat samoviy rishta bor. Nega ular ham o‘zlaricha allaqanday qoidalar yaratib olishmagan? Odam ham avvali shunday edi. Hozir boshqa bir mavjudotga evrilib ketdik. Sen bo‘lsang odamlarga o‘xshab yashasangchi, deganing degan. Axir odam yo‘q oramizda. Hatto u aslida qanday bo‘lganini tasavvur ham qilolmaymiz. Bir belgi – unda ham ruh bor edi, menda ham. Aynan ruhga ergashish orqali unga yaqinlashish mumkin. Sen bo‘lsang nuqul manavi ruhsizlarga o‘xshamasligimdan yozg‘irasan. Meni bog‘lab qo‘ygan kuch seni – shular yaratib, itoat qiluvchi taqiqlarga bo‘lgan ishonching! Uzib yubor arqonni. Telbalardan qolgan shavq kengliklarida shataloq otaylik! Hamma kiygan telpakni biz ham kiyib chiqmasak, quyoshning qaxri kelmas. Boshqacharoq sig‘insak, Tangrining g‘azabi qo‘zimas. Axir hamma bir xil ko‘rinishda sevolmaydi-ku! Kel, biz o‘zimiz istagan shaklda sevaylik. Yashaylik... Jontemir @Jontemir_t

Taʼziya Ulug‘ juma kechasi hafsala o‘ldi. Joying jannatda bo‘lsin demasak ham Jannatga tushadi endi hafsala. Kim kafanlar jasadin yuvib, Janozasin o‘qiysanmi, oy? Qilmagan bo‘lsada garchi vasiyat shoirona ehtirom ila tun qushlarin tushlariga dafn etamiz. Hafsala o‘ldi — shundoq ichimda! Na o‘pkam to‘ldi, na yuragim g‘ash. Bilaman, "kimgadir yig‘lamog‘im shart!" ammo badbaxt ko‘zlarim — Orol, suzib yurar beʼmano kunlar sharpasi... Kulgim qistar: hafsalasi o‘ldimi hafsalaning? Azador odamga kulgu yarashmas, yarashmaydi baxt. Qovog‘imga shivirlayman: qor yog‘, qor yog‘, qor. O‘lik chiqqan uyga o‘xshasangchi, qalb! Uchi o‘tmay, o‘tmasdan qirqi, Qaygadir, kimgadir ketishim kerak. Axir, axir hafsala o‘ldi. U qoldirgan meʼros — tutruqsiz hayot terisiga yolg‘iz tiqolmam somon. Navbat sizga go‘yanda chirildoqlar: Ulug‘ juma kechasi ko‘chib o‘tdi jannatga, Chirrr-chirrr. Qushlarning tushlarida uchib o‘tdi jannatga, Chirrr-chirrr. G‘urbatdan erta chiqdi, erta chiqdi sijjindan, Chirrr-chirrr. Yetmish hur quchog‘ida o‘ynab yurar qirchillab, Chirrr-chirrr... Qaygadir, kimgadir ketishim kerak. Jontemir @Jontemir_t