Tabiiy Intellekt
رفتن به کانال در Telegram
Hisoblash ilmi, Sun'iy Intellekt, Imkoniyatlar va Startaplar haqida. Bizneslar uchun AI/ML konsalting: @eigenhuman. Boost: https://t.me/tabiiyin?boost
نمایش بیشتر240
مشترکین
اطلاعاتی وجود ندارد24 ساعت
اطلاعاتی وجود ندارد7 روز
اطلاعاتی وجود ندارد30 روز
در حال بارگیری داده...
کانالهای مشابه
هیچ دادهای
مشکلی وجود دارد؟ لطفاً صفحه را تازه کنید یا با مدیر پشتیبانی ما تماس بگیرید.
ابر برچسبها
هیچ دادهای
مشکلی وجود دارد؟ لطفاً صفحه را تازه کنید یا با مدیر پشتیبانی ما تماس بگیرید.
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
دسامبر '24
دسامبر '24
+12
در 1 کانالها
نوامبر '24
+8
در 0 کانالها
Get PRO
اکتبر '24
+124
در 0 کانالها
Get PRO
سپتامبر '240
در 3 کانالها
Get PRO
اوت '240
در 5 کانالها
Get PRO
ژوئیه '240
در 0 کانالها
Get PRO
ژوئن '24
+55
در 0 کانالها
Get PRO
مه '240
در 1 کانالها
Get PRO
آوریل '240
در 2 کانالها
Get PRO
مارس '24
+26
در 1 کانالها
Get PRO
فوریه '240
در 0 کانالها
Get PRO
ژانویه '24
+159
در 0 کانالها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 21 دسامبر | +2 | |||
| 20 دسامبر | +1 | |||
| 19 دسامبر | 0 | |||
| 18 دسامبر | +1 | |||
| 17 دسامبر | +1 | |||
| 16 دسامبر | 0 | |||
| 15 دسامبر | +1 | |||
| 14 دسامبر | 0 | |||
| 13 دسامبر | +1 | |||
| 12 دسامبر | +1 | |||
| 11 دسامبر | 0 | |||
| 10 دسامبر | 0 | |||
| 09 دسامبر | +1 | |||
| 08 دسامبر | 0 | |||
| 07 دسامبر | +2 | |||
| 06 دسامبر | 0 | |||
| 05 دسامبر | 0 | |||
| 04 دسامبر | 0 | |||
| 03 دسامبر | 0 | |||
| 02 دسامبر | +1 | |||
| 01 دسامبر | 0 |
پستهای کانال
2024-yil uchun “fun student side project”:
“An LLM agent that helps with the maintenance of a code repository”
Nimalar ishlatish yoki qilish mumkin:
- #rag uchun biror vector database
- loyiha arxitekturasini LLMga berish uchun biror satr formatdagi UML diagrammalarning avtomatik generatsiyasi
- metod/class’larning analizi uchun AST generatsiyasi
- chat interfeys
- loyihaning egasi bo’lgan jamoa aloqa dasturlariga (Slack, Teams) Web Hook’lar orqali ulanish
- …
Bunday agent bilan yangi fichalarni qo’shishda maslahatlashsa bo’ladi. Yoki dokumentatsiya uchun ham ishlatsa bo’ladi.
| 2 |  Ulug’bek uyimdagi tabiiy intellekt dan yordam olayapti. | 447 |
| 3 | Oldimdan bir muammo chiqdi: LLMni guruh chatlarda foydali ishlatish.
Asosiy KPI: agent tomonidan yechilgan muammolar soni.
Muammolarning odatda qanday yechilishini ko'rmagan agentlar bunday ish qila olmaydi. Har kuni 4-5 lab muammolar yechiladigan bir uzun chat tarixini qismlarga bo'lish kerak (chunking chunking).
Guruh chat tarixini qismlarga bo'lishning o'zi alohida masala. Bir muzokara boshqa muzokaralar bilan ustma-ust tushishi yoki vaqt o'tib davom etib ketishi mumkin.
Oxir oqibat yechim baribir yana GPT4 ni chaqirish orqali bo'ldi. Bu menga yangi dasturlash paradigmasidek ko'rinayapti. O'sha-o'sha dasturlash, faqat, bizda yana bir dona sexrli qora quti mavjud.
Yuqoridagi masalada ham doimiy injenerlik malakalari zarur: ma'lumotlarni tozalash, qo'shish, birlashtirish, xarajatlarni kamaytirish va hkz. Ko'pchilik bunday dasturlash bilan ishlayapti, va qayerdadir bunday dasturlashga nom ham berilgan bo'lishi kerak. Masalan, qandaydir "LLM assisted runtime". | 425 |
| 4 | Hamma yoshlarga:
Beware of bullshit. It is all over the place. 🤡🤡
Bunaqa hype’da diqqatni yo’qotmaganlar, sizlarga mazza. | 364 |
| 5 | Endi https://navai.uz ni siz ham kuzatishingiz mumkin.
Loginsiz trendlarni kuzatib boring. | 471 |
| 6 |  Behbudiy Academy (April 27, 2024)
O’rganish va o’sish anglashimcha birgalikda qilinadigan mashg’ulotlar ichida eng esda qoladigani. | 961 |
| 7 | Kim yoki nima haqida qiziqyapsiz?
Top 3 ta like olgan variantlarni ko’rsataman. | 675 |
| 8 | Prompt Engineering Junior darajada: modelga bergan vazifamni bajarishi uchun nechpul va'da qilsam ekan.
Prompt Engineering Senior darajada: qanday qilib generatsiya qilingan tokenlar sonini 1% ga kamaytirishim mumkin. | 695 |
| 9 |  Tanishing: NavAI – ijtimoiy tarmoqlarning keng ko‘lamdagi tahlili orqali trendlarni va brendlarni aniqlovchi, ular atrofidagi kayfiyatni bashorat qiluvchi platforma.
Bizneslar, masalan, trendlarni, insonlarni, raqiblarni kuzatishlari, ularni erta aniqlashlari mumkin. Bunday analiz mahsulotlarni yaxshilash uchun ishlatsa ham bo‘ladi (mahsulotimning qaysi qismi insonlarga yoqmayapti?). Blogerlarga ham foydasi tegsa kerak.
Injener sifatida aytaman, NavAI – Sarmo Labs'dagi menga eng yoqadigan loyihalarimizdan biri. Ishga tushirish uchun juda qiziq muammolarni yechishimizga to‘g‘ri kelyapti. Til modellari, tarqoq tizimlar, tarmoqlar bilan bog‘liq va boshqa yechimlar juda ko‘p ishlatilyapti.
Loyiha uchun muammolarga o‘tkir yechimlar taklif qiladigan, tez o'rganuvchan python dasturchilar qidiryapman. | 1 278 |
| 10 | The Coolness Price
Yozmoqchi bo‘lgan fikrimning fanda aniq nomi va ta’rifi bo‘lishi kerak. Afsuski, men uni bilmayman/eslamayman.
Bir modulda kognitiv psixologiyaning narxlarni belgilashdagi o‘rni va mahsulotlarni narxlash usullari haqida dars bo‘lgan edi. Bir usul, tabiiyki, xarajatlarni hisoblab kutilgan foydani qo‘shish edi. Boshqa ajoyib usullar guruhi ham bor edi: bozorni va iste’molchilar to‘lov uchun tayyorgarligini o‘rganib keyin narxlash. Xo‘sh, shu ikkinchi usul mahsulot va xizmatlarning insonlar orasida qanchalik “zo‘rligi” (coolness)ni hisobga olishga ham asoslangan edi. Demak: bir xil mahsulot insonlar uni zo‘rroq deb bilsa qimmatroq ketadi.
Insonlar ahmoq emas: zo‘rlikning o‘ziga xos yuqish xususiyati bor. Tasavvur qiling hamma narsaning va hamma iste’molchilarning zo‘rlik narxi/ko‘rsatgichi bor. O‘zaro aloqada bo‘ladigan obyekt va obyekt, obyekt va subyekt munosabatlarida zo‘rlikning ko‘rsatgichlari shu munosabatdagilarda yaqinlashadi:
- ooO falonchi zo‘r, chunki unda iPhone bor (falonchida iPhone tufayli ko‘rsatgich o‘sdi)
- hamma Dubayga borib kelyapti, u yeram oddiy (!) joy bo‘lib qoldi (zo‘rlik ko‘rsatgich Dubay uchun tushdi).
Ha, zo‘rlik uchun pul to‘laymiz.
Faqatgina pul emas! Qisman ko‘rinishda vaqtni, o‘zlikni, imkoniyatlarni ham berib yuborsak kerak deb o‘ylayman.
Masalan, o‘ylab ko‘ring, hayotda qancha tanlovlarni inson o‘z tegishli bo‘lgan guruhlar zo‘rmetriga qarab tanlab yuborishi mumkin. Agar u zo‘rmetr universal va keng kontekstda noo‘rin ishlasa, rostdan ham inson yuqoridagilarni yutqazgandek his qilmaydimi?
Kuzatishlarim bo‘yicha hayotimizdagi ko‘p narsalarning tan narxi juda past, va ularni faqat zo‘rlik narxi ko‘taradi. Ular—puch. Haqiqiylikni (authenticity) yaxshi tushunish, fikrimcha, insonlarni baxtliroq qiladi. (Like, do something real).
Fikrimcha faqat baxtli emas, muvaffaqiyatli ham (To‘g‘risi, muvaffaqiyat haqida gapirgim kelmaydi, uniyam tan narxi kattamasdek. Lekin kimgadir shu orqali ta’sir qilolsam baxtliman):
Oprah Winfrey: “I had no idea that being your authentic self could make me as rich as I’ve become. If I had, I’d have done it a lot earlier.”
Fikrim—shu, zo‘rlikdan ogoh bo‘ling, u siz istagan darajada zo‘r bo‘lmasligi mumkin. | 1 361 |
| 11 | Ishxonadagilarga ularning vazifalarini avtomatlashtirib yuborish bilan taxdid qilayapman. ☠️☠️☠️
#rag #llm | 578 |
| 12 | Tasavvur qiling n ta uzunligi n ga teng vektor berilgan. Berilgan vektorlar orasidagi barcha juftliklar orasidagi Evklid masofasini hisoblash kerak.
O(n^2) juftlik va har bir masofa uchun O(n) marta operatsiya. [d(v, u) = sum ((vi-ui)*(vi-ui)) over i in [1 .. n]].
Quyida uchta yechim beraman:
1. naive
for (size_t i = 0; i < num_vectors; ++i) {
distances[i][i] = 0.0f;
for (size_t j = i + 1; j < num_vectors; ++j) {
float result = 0;
for (size_t f = 0; f < num_features; ++f) {
auto F = A[f][i] - A[f][j];
result += F * F;
}
distances[i][j] = distances[j][i] = sqrt(result);
}
}
2. Cache Friendly
Xuddi teppadagidek, faqat avval matritsani transpose qilib olamiz. Shunda ichkaridagi for ketma-ket xotira addresslaridan o'qigani uchun keshni yaxshi ishlatadi.
A = transpose(A);
for (size_t i = 0; i < num_vectors; ++i) {
for (size_t j = i + 1; j < num_vectors; ++j) {
float result = 0;
for (size_t f = 0; f < num_features; f += 4) {
auto F = A[i][f] - A[j][f];
result += F * F;
}
distances[i][j] = sqrt(result);
distances[j][i] = distances[i][j];
}
}
3. Vectorised Ops
Ko'p hisoblash mashinalari o'zlarining SIMD (single instruction multiple data) operatsilayari bilan keladi. SIMD operatsiyalar bir nechta ishni bir vaqtda tekinga qilishga yordam beradi. Masalan, 10 ta turli juftliklarni qo'shish bir juftlikni qo'shganchalik vaqt oladi. Qo'limdagi M2 chip da NEON optimizatsiya operatorlari mavjud. Ular yordamidagi kod:
A = transpose(A);
for (size_t i = 0; i < num_vectors; ++i) {
for (size_t j = i + 1; j < num_vectors; ++j) {
// vectorised (A[i] - A[j] )
vDSP_vdist(&A[j][0], 1, &A[i][0], 1, &diff[0], 1, num_features);
// sum of squares
vDSP_svesq(&diff[0], 1, &result, num_features);
distances[i][j] = sqrt(result);
distances[j][i] = distances[i][j];
}
}
vDSP_vdist berilgan ikkita vektorlarning mos elementlari ayirmalarini uchunchi vektorga hisoblab yozadi.
vDSP_svesq esa bir vektor elementlari kvadratlari yig'indisini hisoblaydi.
Quyida xech qanday optimizatsiya bayroqlarisiz ishlangan kodlarning tezliklari (ms):
n. naive PED Cache PED Vect PED
10 0 0 0
100 6 1 0
1000 2315 523 145
2000 34912 4100 1138
O3 bayroq bilan n < 4000 uchun Cache PED va Vect PED deyarli bir xil ishlaydi. n >= 4000 da Vect PED 5% tezroq ishlaydi. O3 Vect PED ni deyarli o'zgartirmaydi.
Doim ko'dlarni shunchaki yaxshiroq algoritm ishlatmay tezlashtirilganda "mazza qilaman". Qo'limizdagi mashinalar judayam "mehnatkash" va qudratli. Bundan foydalanish kerak. Bo'lmasa dasturlarimiz keragidan 30 marta (n = 2000: [naive PED vs Vect PED]) sekin ishlaydi. | 606 |
| 13 | 90 yoshida Daniel Kaneman vafot etibdi. Bu insoniyat uchun katta yo'qotish deb hisoblayman.
Ushbu inson asos solgan istiqbol nazariyasi asosida qilingan bir LLM'larga oid maqola chiqganiga ko'p bo'lmagan edi ("KTO: Model Alignment as Prospect Theoretic Optimization").
RIP, Daniel Kahneman. | 526 |
| 14 |  Okay, promptlarimni o’zgartiraman. | 649 |
| 15 | Bilamanmi?
Tegishli: talabalar, ishlaydigan dasturchilar, tech spetsialistlar.
Berilishi kerak savol: X malakaga / Y bilimga egamanmi?
Qisqa qilib aytsam: statistik jihatdan deyarli yo‘q.
Intervyulardan, suhbatlardan, leksiya berishdan, ishdan olgan tajribalarimga ko‘ra ayta olaman: biror X narsani bilaman deb hisoblaydigan odam o‘sha X narsani katta ehtimol bilan talab qilingan darajada bilmaydi.
Birovni aldash, tushunarli, yomon. Nima kerak birovning vaqtini olib.
O‘zni aldash, fikrimcha, yomonroq bo‘lsa kerak. Qisqa muddatda bu faqatgina insonni g‘ururlantirib jasurroq qilishi mumkin, uzoq muddatda albatta bu zararli. O‘zni aldab ko‘p vaqt va imkoniyatlarni boy bergandan ko‘ra, o‘ziga nisbatan qattiqqo‘lroq bo‘lgan yaxshi bo‘lsa kerak.
Ishonavering, o‘z holatga nisbatan qilingan tiniq va ayovsiz analiz to‘g‘ri harakatlarni qilishga undab, uzoq muddatda qattiq foydali bo‘ladi.
Boshqa xolis insonlarning yordami ham foydali, agar bu o‘z uchun va o‘sha tashqi inson uchun qimmat bo‘lmasa. | 1 594 |
| 16 |  @docmilanfar (on X):
“this explains why it's so hard to think outside the box - you can only do it for d ≥ 10
🌚🌚 | 676 |
| 17 | Bir tanishim:
" Honestly, I want to organise a conference that only accepts AI-generated papers. See if something good comes out of it. | 663 |
| 18 | Take a deep breath and work on this problem step-by-step
Katta til modellari optimallashtiruvchi ko‘rinishida. Gradient asosidagi uzluksiz optimallashtirsh algoritmlarni turli muammolarni ayovsiz yechganini ko‘rganmiz. Lekin hayotda shunday muammolar borki ularni tayin differensiallanuvchi obyektiv funksiyasi orqali optimallashtirib bo‘lmaydi. Masalan, optimal marshrutlarni aniqlash, dars jadvali tuzish, svetoforlar jadvalini tuzish va hkz. Bunday diskret muammolar odatda evristik qidiruv algoritmlari yoki Gurobi’ga o‘xshagan yechuvchi dasturlar bilan yechiladi.
Yuqoridagi artikl aftorlari LLM’larni optimallashtirish muammolarini yechishga ishlatishibdi. Ko‘p qudratli LLM’larning parametrlarini qo‘lga kiritishning iloji yo‘q, demak biz tushunadigan gradient orqali trenirovka ishlamaydi. Ular, aksincha, tayin optimallashtirish muammosi berilishi va qidiruv trayektoriyasini LLM’ning prompt’iga qo‘shib yuborishadi va LLM’ni yaxshiroq yo‘nalish bilan keyingi diskret yechimni topishga undashadi.
Artiklda LLM’lar orqali yechishga urinilgan muammolarga chiziqli regressiya, sayohatdagi sotuvchi muammolari, GSM8K benchmarki (magistratura darajasidagi matematika muammolari), kino tavsiyalari benchmarki va boshqalar kiradi. Xususan, oxirgi muammolarni aftorlar ikkita LLM yordamida yechishadi: birinchi LLM ikkinchi LLM’ga beriladigan promptni optimallashtiradi. Ikkinchi LLM esa GSM8K kabi muammolarni yechadi. Masalan "Take a deep breath and work on this problem step-by-step" meta prompti PaLM bilan GSM8K da 80% aniqlikda yetgan.
Natijalar industrial yechuvchilardan yaxshi bo‘lmasa ham, artikl yangi yo‘nalishdagi izlanishlarga yo‘l ochadi va amaliy katta o‘zgarishlarga ham sabab bo‘lsa kerak. Shaxsan o‘zim hozirgacha quyidagi meta-promptlarni ishlatardim:
- "... Let’s think step by step."
- "... I will give you 200$ if you do this as correctly as possible."
endi ular bir donaga ko‘paydi. | 657 |
| 19 | Matritsalar ko'paytmasini yana tezlashtirishibdi:
https://www.quantamagazine.org/new-breakthrough-brings-matrix-multiplication-closer-to-ideal-20240307/ | 437 |
| 20 |  Ustoz bilan. | 612 |
