ru
Feedback
MadML πŸš€

MadML πŸš€

ΠžΡ‚ΠΊΡ€Ρ‹Ρ‚ΡŒ Π² Telegram

MadML Talks β€” это ΠΈΠ½ΠΈΡ†ΠΈΠ°Ρ‚ΠΈΠ²Π° ML-сообщСства Mad Devs, Π³Π΄Π΅ ΠΊΠ°ΠΆΠ΄Ρ‹Π΅ Π΄Π²Π΅ Π½Π΅Π΄Π΅Π»ΠΈ ΠΏΠΎ Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³Π°ΠΌ (18:00 ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ) экспСрты ΠΈΠ· сфСры машинного обучСния ΠΈ ИИ дСлятся своими знаниями ΠΈ ΠΎΠΏΡ‹Ρ‚ΠΎΠΌ. Бсылка Π½Π° встрСчу: meet.google.com/ryk-irww-moz

Π‘ΠΎΠ»ΡŒΡˆΠ΅
Π‘Ρ‚Ρ€Π°Π½Π° Π½Π΅ ΡƒΠΊΠ°Π·Π°Π½Π°ΠšΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΡ Π½Π΅ ΡƒΠΊΠ°Π·Π°Π½Π°
281
ΠŸΠΎΠ΄ΠΏΠΈΡΡ‡ΠΈΠΊΠΈ
НСт Π΄Π°Π½Π½Ρ‹Ρ…24 часа
+17 Π΄Π½Π΅ΠΉ
+230 Π΄Π½Π΅ΠΉ

Π—Π°Π³Ρ€ΡƒΠ·ΠΊΠ° Π΄Π°Π½Π½Ρ‹Ρ…...

ΠŸΠΎΡ…ΠΎΠΆΠΈΠ΅ ΠΊΠ°Π½Π°Π»Ρ‹
НСт Π΄Π°Π½Π½Ρ‹Ρ…
Π’ΠΎΠ·Π½ΠΈΠΊΠ»ΠΈ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡ‹? ΠŸΠΎΠΆΠ°Π»ΡƒΠΉΡΡ‚Π°, ΠΎΠ±Π½ΠΎΠ²ΠΈΡ‚Π΅ страницу ΠΈΠ»ΠΈ ΠΎΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ΡΡŒ ΠΊ Π½Π°ΡˆΠ΅ΠΌΡƒ support-ΠΌΠ΅Π½Π΅Π΄ΠΆΠ΅Ρ€Ρƒ .
Облако Ρ‚Π΅Π³ΠΎΠ²
НСт Π΄Π°Π½Π½Ρ‹Ρ…
Π’ΠΎΠ·Π½ΠΈΠΊΠ»ΠΈ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡ‹? ΠŸΠΎΠΆΠ°Π»ΡƒΠΉΡΡ‚Π°, ΠΎΠ±Π½ΠΎΠ²ΠΈΡ‚Π΅ страницу ΠΈΠ»ΠΈ ΠΎΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ΡΡŒ ΠΊ Π½Π°ΡˆΠ΅ΠΌΡƒ support-ΠΌΠ΅Π½Π΅Π΄ΠΆΠ΅Ρ€Ρƒ .
ВходящиС ΠΈ исходящиС упоминания
---
---
---
---
---
---
ΠŸΡ€ΠΈΠ²Π»Π΅Ρ‡Π΅Π½ΠΈΠ΅ подписчиков
ΠΌΠ°Ρ€Ρ‚ '26
ΠΌΠ°Ρ€Ρ‚ '26
+3
Π² 0 ΠΊΠ°Π½Π°Π»Π°Ρ…
Ρ„Π΅Π²Ρ€Π°Π»ΡŒ '26
+7
Π² 0 ΠΊΠ°Π½Π°Π»Π°Ρ…
Get PRO
ΡΠ½Π²Π°Ρ€ΡŒ '26
+19
Π² 1 ΠΊΠ°Π½Π°Π»Π°Ρ…
Get PRO
Π΄Π΅ΠΊΠ°Π±Ρ€ΡŒ '25
+23
Π² 1 ΠΊΠ°Π½Π°Π»Π°Ρ…
Get PRO
Π½ΠΎΡΠ±Ρ€ΡŒ '25
+20
Π² 1 ΠΊΠ°Π½Π°Π»Π°Ρ…
Get PRO
ΠΎΠΊΡ‚ΡΠ±Ρ€ΡŒ '25
+117
Π² 3 ΠΊΠ°Π½Π°Π»Π°Ρ…
Get PRO
ΡΠ΅Π½Ρ‚ΡΠ±Ρ€ΡŒ '25
+113
Π² 2 ΠΊΠ°Π½Π°Π»Π°Ρ…
Π”Π°Ρ‚Π°
ΠŸΡ€ΠΈΠ²Π»Π΅Ρ‡Π΅Π½ΠΈΠ΅ подписчиков
Упоминания
ΠšΠ°Π½Π°Π»Ρ‹
29 ΠΌΠ°Ρ€Ρ‚Π°0
28 ΠΌΠ°Ρ€Ρ‚Π°0
27 ΠΌΠ°Ρ€Ρ‚Π°0
26 ΠΌΠ°Ρ€Ρ‚Π°0
25 ΠΌΠ°Ρ€Ρ‚Π°0
24 ΠΌΠ°Ρ€Ρ‚Π°0
23 ΠΌΠ°Ρ€Ρ‚Π°0
22 ΠΌΠ°Ρ€Ρ‚Π°+1
21 ΠΌΠ°Ρ€Ρ‚Π°+1
20 ΠΌΠ°Ρ€Ρ‚Π°0
19 ΠΌΠ°Ρ€Ρ‚Π°0
18 ΠΌΠ°Ρ€Ρ‚Π°0
17 ΠΌΠ°Ρ€Ρ‚Π°0
16 ΠΌΠ°Ρ€Ρ‚Π°0
15 ΠΌΠ°Ρ€Ρ‚Π°0
14 ΠΌΠ°Ρ€Ρ‚Π°0
13 ΠΌΠ°Ρ€Ρ‚Π°0
12 ΠΌΠ°Ρ€Ρ‚Π°0
11 ΠΌΠ°Ρ€Ρ‚Π°+1
10 ΠΌΠ°Ρ€Ρ‚Π°0
09 ΠΌΠ°Ρ€Ρ‚Π°0
08 ΠΌΠ°Ρ€Ρ‚Π°0
07 ΠΌΠ°Ρ€Ρ‚Π°0
06 ΠΌΠ°Ρ€Ρ‚Π°0
05 ΠΌΠ°Ρ€Ρ‚Π°0
04 ΠΌΠ°Ρ€Ρ‚Π°0
03 ΠΌΠ°Ρ€Ρ‚Π°0
02 ΠΌΠ°Ρ€Ρ‚Π°0
01 ΠΌΠ°Ρ€Ρ‚Π°0
ΠŸΠΎΡΡ‚Ρ‹ ΠΊΠ°Π½Π°Π»Π°
Π’ ΠΊΠΎΠ½Ρ†Π΅ ΠΏΡ€ΠΎΡˆΠ»ΠΎΠ³ΠΎ Π³ΠΎΠ΄Π° OpenAI анонсировала Apps SDK, Π° ΠΏΠΎΠ·ΠΆΠ΅ ΠΎΡ‚ΠΊΡ€Ρ‹Π»Π° Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎΡΡ‚ΡŒ рСгистрации собствСнных ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΉ. Π§Ρ‚ΠΎ это Π΄Π°Π΅Ρ‚? Π’Π΅ΠΏΠ΅Ρ€ΡŒ Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΡΠΎΠ·Π΄Π°Π²Π°Ρ‚ΡŒ собствСнныС прилоТСния, разворачивая MCP сСрвСры, ΠΈ Ρ€Π΅Π³ΠΈΡΡ‚Ρ€ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΈΡ… Π² OpenAI ΠΈ Ρ‚ΠΎΠ³Π΄Π° любой ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒ ChatGPT смоТСт ΠΏΠΎΠ΄ΠΊΠ»ΡŽΡ‡Π°Ρ‚ΡŒ ΠΈΡ… (ΠΈΠ»ΠΈ Ρ‚Ρ€ΠΈΠ³Π³Π΅Ρ€ΠΈΡ‚ΡŒ ΡΠΏΠ΅Ρ†ΠΈΠ°Π»ΡŒΠ½Ρ‹ΠΌΠΈ Ρ„Ρ€Π°Π·Π°ΠΌΠΈ) ΠΈ ΠΎΠ±Ρ€Π°Ρ‰Π°Ρ‚ΡŒΡΡ ΠΊ Π²Π°ΡˆΠ΅ΠΌΡƒ сСрвСру. Π£ΠΆΠ΅ сСйчас ΠΌΠ°Π³Π°Π·ΠΈΠ½ ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΉ достаточно ΡˆΠΈΡ€ΠΎΠΊ ΠΈ Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΠΏΠΎΠ΄ΠΊΠ»ΡŽΡ‡ΠΈΡ‚ΡŒ Booking ΠΈΠ»ΠΈ сСрвисы Google. Для ΠΎΠ΄Π½ΠΎΠ³ΠΎ ΠΈΠ· Π½Π°ΡˆΠΈΡ… Π·Π°ΠΊΠ°Π·Ρ‡ΠΈΠΊΠΎΠ² ΠΌΡ‹ ΠΊΠ°ΠΊ Ρ€Π°Π· ΠΈ занимСмся Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚ΠΊΠΎΠΉ Ρ‚Π°ΠΊΠΎΠ³ΠΎ прилоТСния. И Π² Ρ…ΠΎΠ΄Π΅ тСстирования ΠΈ Π΄Π΅Π±Π°Π³Π³ΠΈΠ½Π³Π° сСрвиса ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΠ»ΠΎΡΡŒ интСрСсноС ΠΏΠΎΠ²Π΅Π΄Π΅Π½ΠΈΠ΅: оказываСтся, ChatGPT довольно ΠΎΡ…ΠΎΡ‚Π½ΠΎ раскрываСт ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ Ρ‚ΡƒΠ»ΠΎΠ² MCP сСрвСра. Π€ΠΎΡ€ΠΌΠ°Π»ΡŒΠ½ΠΎ, это публичная информация. Но с Π΄Ρ€ΡƒΠ³ΠΎΠΉ стороны Π² описании Ρ‚ΡƒΠ»ΠΎΠ² содСрТатся фактичСскиС инструкции для Π°Π³Π΅Π½Ρ‚Π°, Enum-Ρ‹ ΠΈ Literal-Ρ‹, ΠΏΡ€ΠΎΠΌΠΏΡ‚Ρ‹ ΠΈ рСсурсы. МнС Π΄Π°ΠΆΠ΅ ΡƒΠ΄Π°Π²Π°Π»ΠΎΡΡŒ Π²Ρ‹Ρ‚Π°ΡΠΊΠΈΠ²Π°Ρ‚ΡŒ сообщСния ΠΎΠ± ΠΎΡˆΠΈΠ±ΠΊΠ°Ρ… ΠΈ exceptions Π² Ρ…ΠΎΠ΄Π΅ тСстирования прилоТСния. ΠŸΡ€ΠΈ этом, ΠΌΠ½ΠΎΠ³ΠΈΠ΅ прилоТСния Π½Π΅ Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ Π°ΡƒΡ‚Π΅Π½Ρ‚ΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΠΈ ΠΈ Ссли ΠΊΠ°ΠΊΠΈΠΌ-Π»ΠΈΠ±ΠΎ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ удастся ΡƒΠ·Π½Π°Ρ‚ΡŒ адрСс MCP сСрвСра (ChatGPT этого, ΠΊ ΡΡ‡Π°ΡΡ‚ΡŒΡŽ, Π½Π΅ Π·Π½Π°Π΅Ρ‚), Ρ‚ΠΎ это ΠΎΡ‚ΠΊΡ€ΠΎΠ΅Ρ‚ простор для Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… Π°Ρ‚Π°ΠΊ. Π’ Ρ†Π΅Π»ΠΎΠΌ, Π½ΠΈΡ‡Π΅Π³ΠΎ Π½Π΅ ΠΌΠ΅ΡˆΠ°Π΅Ρ‚ Π°Π±ΡŒΡŽΠ·ΠΈΡ‚ΡŒ сСрвСр ΠΈΠ· Ρ‡Π°Ρ‚Π°, хотя это ΠΈ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΎΠΊΠ°Π·Π°Ρ‚ΡŒΡΡ Π΄ΠΎΡ€ΠΎΠΆΠ΅ для самого Π·Π»ΠΎΡƒΠΌΡ‹ΡˆΠ»Π΅Π½Π½ΠΈΠΊΠ°. На ΡΠΊΡ€ΠΈΠ½ΡˆΠΎΡ‚Π°Ρ… Π²Ρ‹ΡˆΠ΅, Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, информация, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ ΠΌΠΎΠΆΠ½ΠΎ ΡƒΠ·Π½Π°Ρ‚ΡŒ ΠΎ Ρ‚ΠΎΠΌ ΠΆΠ΅ ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΈ Booking. Π‘Π°ΠΌΠΎΠ΅ интСрСсноС, Ρ‡Ρ‚ΠΎ OpenAI сами ΠΏΡ€Π΅Π΄ΡƒΠΏΡ€Π΅ΠΆΠ΄Π°ΡŽΡ‚ ΠΎΠ± опасностях ΠΈΠ½ΡŠΠ΅ΠΊΡ†ΠΈΠΉ для ΠΏΡƒΠ±Π»ΠΈΡ‡Π½Ρ‹Ρ… MCP сСрвСров, Π½ΠΎ ситация всС Ρ€Π°Π²Π½ΠΎ ΡΠΎΠΌΠ½ΠΈΡ‚Π΅Π»ΡŒΠ½Π°Ρ. ΠšΠ°ΠΆΠ΅Ρ‚ΡΡ, ΠΈΠΌ Π½ΡƒΠΆΠ½ΠΎ Π΄ΠΎΡ‚ΡŽΠ½ΠΈΡ‚ΡŒ Π°Π»Π»Π°ΠΉΠΌΠ΅Π½Ρ‚ для ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΉ.

2
+3
НСт тСкста...
206
3
ΠœΠ°Ρ‚Π΅Ρ€ΠΈΠ°Π»Ρ‹ встрСчи 4.12.2025 Π‘ΠΏΠΈΠΊΠ΅Ρ€: Владислав Попов, Machine Learning Engineer Π”ΠΎΠΊΠ»Π°Π΄ "TnT-LLM: Text Mining at Scale with Large Language Models" Π—Π°ΠΏΠΈΡΡŒ Π½Π° YouTube: https://youtu.be/FY3VevXMuw8?si=DDKUoKpYielvQyF0 Бсылка Π½Π° ΡΡ‚Π°Ρ‚ΡŒΡŽ, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ обсуТдали Π½Π° встрСчС: https://arxiv.org/abs/2403.12173v1 Π”ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ ΠΌΠ°Ρ‚Π΅Ρ€ΠΈΠ°Π»Ρ‹: https://docs.boundaryml.com/home
228
4
ΠœΠ°Ρ‚Π΅Ρ€ΠΈΠ°Π»Ρ‹ встрСчи 4.12.2025 Π‘ΠΏΠΈΠΊΠ΅Ρ€: Владислав Попов, Machine Learning Engineer Π”ΠΎΠΊΠ»Π°Π΄ "TnT-LLM: Text Mining at Scale with Large Language Models" Π—Π°ΠΏΠΈΡΡŒ Π½Π° YouTube: https://youtu.be/FY3VevXMuw8?si=DDKUoKpYielvQyF0 Бсылка Π½Π° ΡΡ‚Π°Ρ‚ΡŒΡŽ, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ обсуТдали Π½Π° встрСчС: https://arxiv.org/abs/2403.12173v1 Π”ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ ΠΌΠ°Ρ‚Π΅Ρ€ΠΈΠ°Π»Ρ‹: https://docs.boundaryml.com/home
2
5
По тСхничСским ΠΏΡ€ΠΈΡ‡ΠΈΠ½Π°ΠΌ Π·Π²ΠΎΠ½ΠΎΠΊ пСрСносится Π² google meet Video call link: https://meet.google.com/ryk-irww-moz
81
6
НачинаСм Ρ‡Π΅Ρ€Π΅Π· 5 ΠΌΠΈΠ½ΡƒΡ‚: https://telemost.yandex.ru/j/40564204453826
45
7
TnT-LLM: Text Mining at Scale with Large Language Models Π Π°Π·ΠΌΠ΅Ρ‚ΠΊΠ° Π±ΠΎΠ»ΡŒΡˆΠΈΡ… тСкстовых корпусов Π²Ρ€ΡƒΡ‡Π½ΡƒΡŽ Π·Π°Π½ΠΈΠΌΠ°Π΅Ρ‚ Π½Π΅Π΄Π΅Π»ΠΈ ΠΈ ΠΏΠΎΡ‡Ρ‚ΠΈ
TnT-LLM: Text Mining at Scale with Large Language Models Π Π°Π·ΠΌΠ΅Ρ‚ΠΊΠ° Π±ΠΎΠ»ΡŒΡˆΠΈΡ… тСкстовых корпусов Π²Ρ€ΡƒΡ‡Π½ΡƒΡŽ Π·Π°Π½ΠΈΠΌΠ°Π΅Ρ‚ Π½Π΅Π΄Π΅Π»ΠΈ ΠΈ ΠΏΠΎΡ‡Ρ‚ΠΈ Π½Π΅ ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΡƒΠ΅Ρ‚ΡΡ. Π’ этом Π΄ΠΎΠΊΠ»Π°Π΄Π΅ ΠΌΡ‹ ΠΏΠΎΠΊΠ°ΠΆΠ΅ΠΌ TnT-LLM β€” Ρ„Ρ€Π΅ΠΉΠΌΠ²ΠΎΡ€ΠΊ Π½Π° Π±Π°Π·Π΅ Π±ΠΎΠ»ΡŒΡˆΠΈΡ… языковых ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ автоматичСски строит ΠΈΠ΅Ρ€Π°Ρ€Ρ…ΠΈΠΈ ΠΌΠ΅Ρ‚ΠΎΠΊ ΠΈ создаёт псСвдоразмСтку. Π Π°Π·Π±Π΅Ρ€Ρ‘ΠΌ, ΠΊΠ°ΠΊ двухэтапный ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ (гСнСрация таксономии β†’ Ρ€Π°Π·ΠΌΠ΅Ρ‚ΠΊΠ° тСкста) позволяСт ΡƒΡΠΊΠΎΡ€ΠΈΡ‚ΡŒ созданиС классификаторов ΠΈ обсудим Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Π΅ кСйсы примСнСния β€” ΠΎΡ‚ Π°Π½Π°Π»ΠΈΠ·Π° ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΡΠΊΠΈΡ… Π½Π°ΠΌΠ΅Ρ€Π΅Π½ΠΈΠΉ Π΄ΠΎ ΠΊΠΎΠ½Ρ‚Π΅Π½Ρ‚-понимания. Π”ΠΎΠΊΠ»Π°Π΄ Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΠΎΠ»Π΅Π·Π΅Π½ исслСдоватСлям ΠΈ ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Π°ΠΌ, Ρ€Π°Π±ΠΎΡ‚Π°ΡŽΡ‰ΠΈΠΌ с Π·Π°Π΄Π°Ρ‡Π°ΠΌΠΈ тСкстового ΠΌΠ°ΠΉΠ½ΠΈΠ½Π³Π°, кластСризации, автоматичСской Ρ€Π°Π·ΠΌΠ΅Ρ‚ΠΊΠΈ ΠΈ созданиСм классификаторов Π½Π° основС тСкстов. Π‘ΠΏΠΈΠΊΠ΅Ρ€ Владислав Попов, Machine Learning Engineer ВрСмя ΠΈ Π΄Π°Ρ‚Π° 4 дСкабря, Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³, с 18:00 Π΄ΠΎ 19:00 (ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ) Бсылка Π½Π° встрСчу https://telemost.yandex.ru/j/40564204453826
964
8
ΠœΠ°Ρ‚Π΅Ρ€ΠΈΠ°Π»Ρ‹ встрСчи 6.11.2025 Π‘ΠΏΠΈΠΊΠ΅Ρ€: Алина Π‘ΡƒΡ€Ρ‹ΠΊΠΈΠ½Π°, Machine Learning Engineer, Mad Devs Π”ΠΎΠΊΠ»Π°Π΄: Intro to Contrastive Learning: тСория, интуиция ΠΈ соврСмСнныС ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Ρ‹ Π—Π°ΠΏΠΈΡΡŒ Π½Π° YouTube: https://www.youtube.com/watch?v=HCb0VNpjGCM
310
9
Intro to Contrastive Learning: тСория, интуиция ΠΈ соврСмСнныС ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Ρ‹ ΠšΠΎΠ½Ρ‚Ρ€Π°ΡΡ‚ΠΈΠ²Π½ΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ стало ΠΊΡ€Π°Π΅ΡƒΠ³ΠΎΠ»ΡŒΠ½Ρ‹ΠΌ ΠΊΠ°ΠΌΠ½Π΅ΠΌ соврСм
Intro to Contrastive Learning: тСория, интуиция ΠΈ соврСмСнныС ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Ρ‹ ΠšΠΎΠ½Ρ‚Ρ€Π°ΡΡ‚ΠΈΠ²Π½ΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ стало ΠΊΡ€Π°Π΅ΡƒΠ³ΠΎΠ»ΡŒΠ½Ρ‹ΠΌ ΠΊΠ°ΠΌΠ½Π΅ΠΌ соврСмСнных self-supervised ΠΌΠ΅Ρ‚ΠΎΠ΄ΠΎΠ² Π² ΠΊΠΎΠΌΠΏΡŒΡŽΡ‚Π΅Ρ€Π½ΠΎΠΌ Π·Ρ€Π΅Π½ΠΈΠΈ ΠΈ Π·Π° Π΅Π³ΠΎ ΠΏΡ€Π΅Π΄Π΅Π»Π°ΠΌΠΈ. Π’ этом Π΄ΠΎΠΊΠ»Π°Π΄Π΅ ΠΌΡ‹ Ρ€Π°Π·Π±Π΅Ρ€Ρ‘ΠΌ ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Π΅ ΠΈΠ΄Π΅ΠΈ, Π»Π΅ΠΆΠ°Ρ‰ΠΈΠ΅ Π² основС ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Π° β€” ΠΎΡ‚ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½ΠΎ-тСорСтичСских ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠΎΠ² (взаимная информация, InfoNCE) Π΄ΠΎ практичСских Ρ€Π΅Π°Π»ΠΈΠ·Π°Ρ†ΠΈΠΉ. Рассмотрим классичСскиС ΠΌΠ΅Ρ‚ΠΎΠ΄Ρ‹ с ΠΎΡ‚Ρ€ΠΈΡ†Π°Ρ‚Π΅Π»ΡŒΠ½Ρ‹ΠΌΠΈ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π°ΠΌΠΈ (SimCLR, MoCo), ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Ρ‹ Π±Π΅Π· Π½Π΅Π³Π°Ρ‚ΠΈΠ²ΠΎΠ² (BYOL, SimSiam) ΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ, Π²Π΄ΠΎΡ…Π½ΠΎΠ²Π»Ρ‘Π½Π½Ρ‹Π΅ кластСризациСй. Π”ΠΎΠΊΠ»Π°Π΄ Π±ΡƒΠ΄Π΅Ρ‚ интСрСсСн ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Π°ΠΌ ΠΈ исслСдоватСлям, Ρ€Π°Π±ΠΎΡ‚Π°ΡŽΡ‰ΠΈΠΌ с прСдставлСниями Π΄Π°Π½Π½Ρ‹Ρ…, self-supervised ΠΈ foundation-модСлями. Π‘ΠΏΠΈΠΊΠ΅Ρ€ Алина Π‘ΡƒΡ€Ρ‹ΠΊΠΈΠ½Π°, Machine Learning Engineer, Mad Devs ВрСмя ΠΈ Π΄Π°Ρ‚Π° 6 ноября, Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³, с 18:00 Π΄ΠΎ 19:00 (ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ) Бсылка Π½Π° встрСчу meet.google.com/ryk-irww-moz
1 091
10
Π—Π°ΠΏΠΈΡΡŒ Π΄ΠΎΠΊΠ»Π°Π΄Π° доступна ΠΏΠΎ ссылкС: https://www.youtube.com/watch?v=0XhFB9OItqw πŸš€
556
11
ΠŸΡ€Π΅Π·Π΅Π½Ρ‚Π°Ρ†ΠΈΡ сСгодняшнСго Π΄ΠΎΠΊΠ»Π°Π΄Π°
684
12
Π§Π΅Ρ€Π΅Π· 10 ΠΌΠΈΠ½ΡƒΡ‚ Π½Π°Ρ‡ΠΈΠ½Π°Π΅ΠΌ
615
13
Schema-guided reasoning: ΠΊΠ°ΠΊ Π·Π°ΡΡ‚Π°Π²ΠΈΡ‚ΡŒ LLM Π±Ρ‹Ρ‚ΡŒ ΡƒΠΌΠ½Π΅Π΅. Π’ Π΄ΠΎΠΊΠ»Π°Π΄Π΅ рассмотрим SGR ΠΏΠΎΠ΄Ρ…ΠΎΠ΄, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΏΠΎΠ²Ρ‹ΡˆΠ°Π΅Ρ‚ бизнСс-ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΠΈ ΠΈ зас
Schema-guided reasoning: ΠΊΠ°ΠΊ Π·Π°ΡΡ‚Π°Π²ΠΈΡ‚ΡŒ LLM Π±Ρ‹Ρ‚ΡŒ ΡƒΠΌΠ½Π΅Π΅. Π’ Π΄ΠΎΠΊΠ»Π°Π΄Π΅ рассмотрим SGR ΠΏΠΎΠ΄Ρ…ΠΎΠ΄, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΏΠΎΠ²Ρ‹ΡˆΠ°Π΅Ρ‚ бизнСс-ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΠΈ ΠΈ заставляСт Ρ€ΠΈΠ·ΠΎΠ½ΠΈΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ Π½Π΅ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ для этого. Π’ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎ, Π²Ρ‹ ΡƒΠΆΠ΅ использовали этот ΠΏΠΎΠ΄Ρ…ΠΎΠ΄, Π½ΠΎ Π½Π΅ Π·Π½Π°Π»ΠΈ ΠΎΠ± этом. Π’Π°ΠΊ ΠΆΠ΅ рассмотрим ΠΏΠ»ΡŽΡΡ‹ ΠΈ минусы SGR ΠΈ посмотрим, ΠΊΠ°ΠΊ ΡΠΎΠ±Ρ€Π°Ρ‚ΡŒ LLM Π°Π³Π΅Π½Ρ‚Π° Π±Π΅Π· ΡΠΏΠ΅Ρ†ΠΈΠ°Π»ΡŒΠ½Ρ‹Ρ… Ρ„Ρ€Π΅ΠΉΠΌΠ²ΠΎΡ€ΠΊΠΎΠ² практичСски Π½Π° чистом OpenAI SDK. Π‘Π»ΠΎΠΆΠ½ΠΎΡΡ‚ΡŒ 3/10. Π‘ΠΏΠΈΠΊΠ΅Ρ€: АлСксандр Π‘Ρ€Ρ‹Π»ΡŒ, ML ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€ Mad Devs. Π”Π°Ρ‚Π° ΠΈ врСмя: 25 сСнтября, Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³, Π² 18:00 (ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ). Бсылка Π½Π° встрСчу: meet.google.com/ryk-irww-moz
1 683
14
А Π²Ρ‹ Π·Π°ΠΌΠ΅Ρ‡Π°Π»ΠΈ, Ρ‡Ρ‚ΠΎ Π›Π›Πœ ΠΌΠΎΠ³ΡƒΡ‚ Π±Ρ‹Ρ‚ΡŒ Π½Π΅ особо Ρ€Π°Π·Π½ΠΎΠΎΠ±Ρ€Π°Π·Π½Ρ‹ Π² своих гСнСрациях? ВсС ΠΌΡ‹ Π·Π½Π°Π΅ΠΌ, Ρ‡Ρ‚ΠΎ ΡƒΠΆΠ΅ Π΄Π°Π²Π½ΠΎ принято Π΄ΠΎΠ±Π°Π²Π»ΡΡ‚ΡŒ синтСтичСскиС Π΄Π°Π½Π½Ρ‹Π΅ для обучСния Π½ΠΎΠ²Ρ‹Ρ… ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ. Π­Ρ‚ΠΎ дСшСвлС, бСзопаснСС, Ρ€Π΅ΡˆΠ°Π΅Ρ‚ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡƒ рСгуляризации ΠΈ Ρ€Π΅ΠΏΡ€Π΅Π·Π΅Π½Ρ‚Π°Ρ†ΠΈΠΈ (Π°ΡƒΠ³ΠΌΠ΅Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ Π΄Π°Π½Π½Ρ‹Ρ…). ИмСнно с ΠΎΠ΄Π½ΠΎΠΉ ΠΈΠ· Ρ‚Π°ΠΊΠΈΡ… ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌ ΠΌΡ‹ ΡΡ‚ΠΎΠ»ΠΊΠ½ΡƒΠ»ΠΈΡΡŒ Π² Ρ€Π°Π±ΠΎΡ‚Π΅. Нам Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ Π±Ρ‹Π»ΠΎ ΠΏΠΎΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ модСль классификации, которая Π±Ρ‹ относила ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΡΠΊΠΈΠΉ запрос ΠΊ ΠΎΠ΄Π½ΠΎΠΌΡƒ ΠΈΠ· 150 классов. Π˜Π·Π½Π°Ρ‡Π°Π»ΡŒΠ½ΠΎ Ρƒ нас Π½Π΅ Π±Ρ‹Π»ΠΎ Ρ…ΠΎΡ€ΠΎΡˆΠ΅ΠΉ Ρ€Π°Π·ΠΌΠ΅Ρ‚ΠΊΠΈ ΠΈ ΠΌΡ‹ ΡƒΡ‡ΠΈΠ»ΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΏΠΎ косвСнным ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠ°ΠΌ. Π‘ΠΎ Π²Ρ€Π΅ΠΌΠ΅Π½ΠΌ ΠΌΡ‹ построили систСму сбора Π΄Π°Π½Π½Ρ‹Ρ… для Π½ΠΎΠ²ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ, Π² ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ Π½Π° ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΡΠΊΠΈΠΉ запрос ΠΌΡ‹ ΠΏΡ€Π΅Π΄Π»Π°Π³Π°Π΅ΠΌ Ρ‚ΠΎΠΏ-3 Π²Π°Ρ€ΠΈΠ°Π½Ρ‚Π° (прСдсказанных ΠΊΠ°ΠΊ Ρ€Π°Π· ΠΏΡ€Π΅Π΄Ρ‹Π΄ΡƒΡ‰Π΅ΠΉ модСлью), ΠΈ ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒ Π²Ρ‹Π±ΠΈΡ€Π°Π΅Ρ‚ Ρ‚ΠΎ, Ρ‡Ρ‚ΠΎ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ΠΈΡ‚ ΠΏΠΎΠ΄ Π΅Π³ΠΎ запрос. ΠžΠ±ΡƒΡ‡ΠΈΠ»ΠΈ Π½ΠΎΠ²ΡƒΡŽ модСль. ΠŸΡ€ΠΈ Π°Π½Π°Π»ΠΈΠ·Π΅ датасСта Π²Ρ‹ΡΡΠ½ΠΈΠ»ΠΎΡΡŒ, Ρ‡Ρ‚ΠΎ Ρ€Π°Π·Π½ΠΎΠΎΠ±Ρ€Π°Π·ΠΈΠ΅ ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΡΠΊΠΈΡ… запросов Π½Π΅ Ρ‚Π°ΠΊ Π²Π΅Π»ΠΈΠΊΠΎ ΠΈ большая Ρ‡Π°ΡΡ‚ΡŒ ΠΈΠ· Π½ΠΈΡ… относится ΠΊ 30 классам, Π° Π½Π° ΠΎΡΡ‚Π°Π»ΡŒΠ½Ρ‹Ρ… новая модСль сущСствСнно проваливаСтся. Π’ этом ΠΌΠΎΠΌΠ΅Π½Ρ‚Π΅ ΠΊΠ°ΠΊ Ρ€Π°Π· ΠΏΡ€ΠΈΡˆΠ»Π° ΠΌΡ‹ΡΠ»ΡŒ ΡΠ³Π΅Π½Π΅Ρ€ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½Ρ‹Π΅ Π΄Π°Π½Π½Ρ‹Π΅ (Π½Π° самом Π΄Π΅Π»Π΅ Ρ€Π΅ΡˆΠΈΠ»ΠΈ Π½Π°Ρ‡Π°Ρ‚ΡŒ с Π³Π΅Π½Π΅Ρ€Π°Ρ†ΠΈΠΈ Ρ€Π΅ΠΏΡ€Π΅Π·Π΅Π½Ρ‚Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ Π±Π΅Π½Ρ‡ΠΌΠ°Ρ€ΠΊΠ°, Π½ΠΎ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ Ρ‚ΠΎΡ‚ ΠΆΠ΅). Для Π³Π΅Π½Π΅Ρ€Π°Ρ†ΠΈΠΈ ΠΌΡ‹ взяли ΠΊΡ€ΡƒΠΏΠ½ΡƒΡŽ Π›Π›Πœ ΠΈΠ· ΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΡ… Π½Π° Π΄Π°Π½Π½Ρ‹ΠΉ ΠΌΠΎΠΌΠ΅Π½Ρ‚ ΠΈ ΠΏΠΎ-Ρ€Π°Π·Π½ΠΎΠΌΡƒ ΠΏΡ€ΠΎΠΌΠΏΡ‚ΠΈΠ»ΠΈ Π΅Π΅, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΠΎΠ²Ρ‹ΡΠΈΡ‚ΡŒ Ρ€Π°Π·Π½ΠΎΠΎΠ±Ρ€Π°Π·ΠΈΠ΅: добавляли ΠΏΡ€ΠΈΠΌΠ΅Ρ€Ρ‹, с Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒΡŽ добавляли ΠΊΠΎΡΠ²Π΅Π½Π½ΡƒΡŽ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΏΠΎ ΠΊΠ°ΠΆΠ΄ΠΎΠΌΡƒ классу, мСняли ΡΡ‚ΠΈΠ»ΡŒ запроса ΠΈ Π΅Π³ΠΎ Π΄Π»ΠΈΠ½Ρƒ, вносили ошибки правописания Π² тСкст ΠΈ ΠΏΡ€ΠΎΡ‡Π΅Π΅. На ΠΏΠ΅Ρ€Π²Ρ‹ΠΉ взгляд Π±Π΅Π½Ρ‡ΠΌΠ°Ρ€ΠΊ получился Ρ…ΠΎΡ€ΠΎΡˆΠΈΠΌ - чисто ΠΏΡ€ΠΈ Π²ΠΈΠ·ΡƒΠ°Π»ΡŒΠ½ΠΎΠΉ ΠΎΡ†Π΅Π½ΠΊΠ΅ всС Π±Ρ‹Π»ΠΎ ΠΏΠΎΡ…ΠΎΠΆΠ΅ Π½Π° Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Π΅ чСловСчСскиС запросы (хотя Π·Π°ΡΡ‚Π°Π²ΠΈΡ‚ΡŒ Π³Π΅Π½Π΅Ρ€ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ сущСствСнныС ошибки Π½Π΅ ΡƒΠ΄Π°Π»ΠΎΡΡŒ), Π° Π³Π»Π°Π²Π½ΠΎΠ΅, гарантированная Ρ€Π΅ΠΏΡ€Π΅Π·Π΅Π½Ρ‚Π°Ρ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒ - для ΠΊΠ°ΠΆΠ΄ΠΎΠ³ΠΎ класса Π΅ΡΡ‚ΡŒ самыС Ρ€Π°Π·Π½Ρ‹Π΅ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Ρ‹ запросов. Но Ρ‡Ρ‚ΠΎ Ρ‚Π°ΠΌ с энтропиСй? Π’ срСднСм энтропия сгСнСрированных запросов Π² Ρ€Π°ΠΌΠΊΠ°Ρ… класса ΠΏΡ€ΠΈ подсчСтС ΠΏΠΎ Π»Π΅ΠΌΠΌΠ°Ρ‚ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹ΠΌ Ρ‚ΠΎΠΊΠ΅Π½Π°ΠΌ оказалась ΠΎΠΊΠΎΠ»ΠΎ 5.3, Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Ρ… - 8. Π’.Π΅. Π’ срСднСм ΠΏΠΎΡ‡Ρ‚ΠΈ Π½Π° 3 Π±ΠΈΡ‚Π° Π½Π° Ρ‚ΠΎΠΊΠ΅Π½ большС. Π’Ρ€ΠΎΠ΄Π΅ Π±Ρ‹ Π½Π΅ΠΌΠ½ΠΎΠ³ΠΎ, Π½ΠΎ это 2^5.3 ~ 39 ΠΏΡ€ΠΎΡ‚ΠΈΠ² 2^8 = 256 Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Ρ‹Ρ… Π²Π°Ρ€ΠΈΠ°Ρ†ΠΈΠΉ Π½Π° Π΅Π΄ΠΈΠ½ΠΈΡ†Ρƒ Π΄Π°Π½Π½Ρ‹Ρ…. ΠœΡ‹ ΠΏΠΎΠΊΠ° Π½Π΅ ΠΎΠ±ΡƒΡ‡Π°Π»ΠΈ модСль Π½Π° ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ синтСтичСском датасСтС, поэтому ΠΎ Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Ρ… ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΠ°Ρ… Π½ΠΈΡ‡Π΅Π³ΠΎ Π½Π΅ ΠΌΠΎΠΆΠ΅ΠΌ ΡΠΊΠ°Π·Π°Ρ‚ΡŒ. Но ΠΎΡ‡Π΅Π²ΠΈΠ΄Π½ΠΎ, Ρ‡Ρ‚ΠΎ Ρ‚Π΅ΠΊΡƒΡ‰ΠΈΠΉ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ Π»ΡƒΡ‡ΡˆΠ΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ для обогащСния, Π° Π½Π΅ для Π·Π°ΠΌΠ΅Π½Ρ‹ датасСта. ΠœΡ‹ Ρ…ΠΎΡ‚Π΅Π»ΠΈ ΠΎΠ±ΡƒΡ‡ΠΈΡ‚ΡŒ просто модСль классификации, Π° Ρ‡Ρ‚ΠΎ Ссли ΠΎΠ±ΡƒΡ‡Π°Ρ‚ΡŒ Π›Π›Πœ? ВсСгда ΠΌΠΎΠΆΠ½ΠΎ ΡƒΠ»ΡƒΡ‡ΡˆΠΈΡ‚ΡŒ ΠΌΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌΡ‹ Π³Π΅Π½Π΅Ρ€Π°Ρ†ΠΈΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, Π½ΠΎ ΠΏΡ€ΠΈ Π»Π΅Π½ΠΈΠ²ΠΎΠΌ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Π΅ Π΅ΡΡ‚ΡŒ риск Π²Ρ‹ΡΡ‚Ρ€Π΅Π»ΠΈΡ‚ΡŒ сСбС Π² Π½ΠΎΠ³Ρƒ - повысим Ρ€Π΅ΠΏΡ€Π΅Π·Π΅Π½Ρ‚Π°Ρ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒ, Π½ΠΎ пСрСобучимся Π½Π° скудных тСкстах, Π½Π΅ ΠΎΡ‚Ρ€Π°ΠΆΠ°ΡŽΡ‰ΠΈΡ… Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹ΠΉ язык. А Ссли этот Ρ†ΠΈΠΊΠ» Π½Π΅ Π·Π°ΠΊΠ°Π½Ρ‡ΠΈΠ²Π°Ρ‚ΡŒ ΠΈ ΠΏΡ€ΠΎΠ΄ΠΎΠ»ΠΆΠ°Ρ‚ΡŒ ΠΎΠ±ΡƒΡ‡Π°Ρ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ Π½Π° синтСтичСских тСкстах, ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½Π½Ρ‹Ρ… ΠΈΠ· ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ, ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Ρ… Π½Π° синтСтичСских тСкстах, Ρ‚ΠΎ ΠΊ Ρ‡Π΅ΠΌΡƒ ΠΌΡ‹ ΠΏΡ€ΠΈΠ΄Π΅ΠΌ? Π—Π²ΡƒΡ‡ΠΈΡ‚ ΠΊΠ°ΠΊ идСя для экспСримСнта.
488
15
Sonar Embedding Space ΠΈ Large Concept Model (LCM): ΠΎΡ‚ ΡƒΠ½ΠΈΠ²Π΅Ρ€ΡΠ°Π»ΡŒΠ½ΠΎΠ³ΠΎ пространства прСдставлСний ΠΊ Ρ€Π°Π±ΠΎΡ‚Π΅ с абстрактными понят
Sonar Embedding Space ΠΈ Large Concept Model (LCM): ΠΎΡ‚ ΡƒΠ½ΠΈΠ²Π΅Ρ€ΡΠ°Π»ΡŒΠ½ΠΎΠ³ΠΎ пространства прСдставлСний ΠΊ Ρ€Π°Π±ΠΎΡ‚Π΅ с абстрактными понятиями Π’ этом Π΄ΠΎΠΊΠ»Π°Π΄Π΅ ΠΌΡ‹ Ρ€Π°Π·Π±Π΅Ρ€Ρ‘ΠΌ Π΄Π²Π΅ связанныС Ρ€Π°Π±ΠΎΡ‚Ρ‹ β€” Sonar Embedding Space ΠΈ Large Concept Model (LCM). ОбС ΡΡ‚Π°Ρ‚ΡŒΠΈ ΠΏΠΎΠ΄Π½ΠΈΠΌΠ°ΡŽΡ‚ вопрос: ΠΊΠ°ΠΊ модСлям Π»ΡƒΡ‡ΡˆΠ΅ Π·Π°Ρ…Π²Π°Ρ‚Ρ‹Π²Π°Ρ‚ΡŒ ΠΈ ΠΎΡ€Π³Π°Π½ΠΈΠ·ΠΎΠ²Ρ‹Π²Π°Ρ‚ΡŒ знания. Sonar ΠΏΡ€Π΅Π΄Π»Π°Π³Π°Π΅Ρ‚ Π΅Π΄ΠΈΠ½ΠΎΠ΅ встраиваСмоС пространство, Π³Π΄Π΅ тСксты ΠΈ Π΄Ρ€ΡƒΠ³ΠΈΠ΅ ΠΌΠΎΠ΄Π°Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ ΡΠΎΠΏΠΎΡΡ‚Π°Π²Π»ΡΡŽΡ‚ΡΡ Π½Π°ΠΏΡ€ΡΠΌΡƒΡŽ. LCM ΠΈΠ΄Ρ‘Ρ‚ дальшС: ΠΎΡ‚ языковых ΠΏΠ°Ρ‚Ρ‚Π΅Ρ€Π½ΠΎΠ² ΠΊ ΠΎΠΏΠ΅Ρ€ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡŽ Π±ΠΎΠ»Π΅Π΅ высокоуровнСвыми ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ‚Π°ΠΌΠΈ. ΠžΠ±ΡΡƒΠ΄ΠΈΠΌ, ΠΊΠ°ΠΊ Ρ‚Π°ΠΊΠΈΠ΅ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Ρ‹ ΠΏΠΎΠΌΠΎΠ³Π°ΡŽΡ‚ модСлям Π»ΡƒΡ‡ΡˆΠ΅ Π·Π°Ρ…Π²Π°Ρ‚Ρ‹Π²Π°Ρ‚ΡŒ ΠΈ ΡΡ‚Ρ€ΡƒΠΊΡ‚ΡƒΡ€ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ знания. Π‘ΠΏΠΈΠΊΠ΅Ρ€ Алина Π‘ΡƒΡ€Ρ‹ΠΊΠΈΠ½Π°, Machine Learning Engineer, Mad Devs ВрСмя ΠΈ Π΄Π°Ρ‚Π° 11 сСнтября, Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³, с 18:00 Π΄ΠΎ 19:00 (ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ) Бсылка Π½Π° встрСчу meet.google.com/ryk-irww-moz
744
16
Dynamic Chunking: end-to-end иСрархичСская модСль Π±Π΅Π· Ρ‚ΠΎΠΊΠ΅Π½ΠΈΠ·Π°Ρ‚ΠΎΡ€Π° (H-Net) Π’ Ρ…ΠΎΠ΄Π΅ Π΄ΠΎΠΊΠ»Π°Π΄Π° Π²Ρ‹ ΡƒΠ·Π½Π°Π΅Ρ‚Π΅ ΠΎ Dynamic Chunking β€” ΠΌΠΎΠ΄
Dynamic Chunking: end-to-end иСрархичСская модСль Π±Π΅Π· Ρ‚ΠΎΠΊΠ΅Π½ΠΈΠ·Π°Ρ‚ΠΎΡ€Π° (H-Net) Π’ Ρ…ΠΎΠ΄Π΅ Π΄ΠΎΠΊΠ»Π°Π΄Π° Π²Ρ‹ ΡƒΠ·Π½Π°Π΅Ρ‚Π΅ ΠΎ Dynamic Chunking β€” ΠΌΠΎΠ΄Π΅Π»ΠΈ, которая сама учится Ρ€Π°Π·Π±ΠΈΠ²Π°Ρ‚ΡŒ тСкст Π½Π° смысловыС куски ΠΈ ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ иСрархичСскиС прСдставлСния, ΠΎΠ±Ρ…ΠΎΠ΄ΡΡΡŒ Π±Π΅Π· Ρ‚Ρ€Π°Π΄ΠΈΡ†ΠΈΠΎΠ½Π½ΠΎΠΉ Ρ‚ΠΎΠΊΠ΅Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ. ПокаТСм, ΠΊΠ°ΠΊ ΠΎΠ½Π° ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΡ‚ BPE Π½Π° слоТных Π΄Π°Π½Π½Ρ‹Ρ… Π²Ρ€ΠΎΠ΄Π΅ китайского тСкста, ΠΊΠΎΠ΄Π° ΠΈ Π”ΠΠš, ΠΈ ΠΏΠΎΡ‡Π΅ΠΌΡƒ end-to-end ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ Π΄Π°Ρ‘Ρ‚ Π»ΡƒΡ‡ΡˆΠΈΠ΅ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Ρ‹. Π‘ΠΏΠΈΠΊΠ΅Ρ€ Алина Π‘ΡƒΡ€Ρ‹ΠΊΠΈΠ½Π°, Machine Learning Engineer, Mad Devs ВрСмя ΠΈ Π΄Π°Ρ‚Π° 28 августа, Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³, с 18:00 Π΄ΠΎ 19:00 (ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ) Бсылка Π½Π° встрСчу meet.google.com/ryk-irww-moz
1 214
17
ATGen: Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ для эффСктивной Π³Π΅Π½Π΅Ρ€Π°Ρ†ΠΈΠΈ тСкста Π’ Π΄ΠΎΠΊΠ»Π°Π΄Π΅ рассмотрим Ρ„Ρ€Π΅ΠΉΠΌΠ²ΠΎΡ€ΠΊ ATGen β€” соврСмСнноС Ρ€Π΅ΡˆΠ΅Π½ΠΈΠ΅, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅
ATGen: Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ для эффСктивной Π³Π΅Π½Π΅Ρ€Π°Ρ†ΠΈΠΈ тСкста Π’ Π΄ΠΎΠΊΠ»Π°Π΄Π΅ рассмотрим Ρ„Ρ€Π΅ΠΉΠΌΠ²ΠΎΡ€ΠΊ ATGen β€” соврСмСнноС Ρ€Π΅ΡˆΠ΅Π½ΠΈΠ΅, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ сниТаСт ΡΡ‚ΠΎΠΈΠΌΠΎΡΡ‚ΡŒ Ρ€Π°Π·ΠΌΠ΅Ρ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ ΠΏΠΎΠ²Ρ‹ΡˆΠ°Π΅Ρ‚ качСство тСкстовой Π³Π΅Π½Π΅Ρ€Π°Ρ†ΠΈΠΈ. Π Π°Π·Π±Π΅Ρ€Ρ‘ΠΌ, ΠΊΠ°ΠΊ ΠΎΠ½ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚, ΠΊΠ°ΠΊΠΈΠ΅ стратСгии Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ обучСния ΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‚, ΠΈ ΠΏΠΎΡ‡Π΅ΠΌΡƒ этот ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ Π΄Π΅ΠΉΡΡ‚Π²ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ экономит рСсурсы Π±Π΅Π· ΠΏΠΎΡ‚Π΅Ρ€ΠΈ качСства. Π‘ΠΏΠΈΠΊΠ΅Ρ€ ДСнис Π”Π΅ΠΌΠ΅Π½ΠΊΠΎΠ², Machine Learning Engineer, Mad Devs ВрСмя ΠΈ Π΄Π°Ρ‚Π° 14 августа, Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³, с 18:00 Π΄ΠΎ 19:00 (ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ) Бсылка Π½Π° встрСчу meet.google.com/ryk-irww-moz
1 831
18
НачинаСм ΡƒΠΆΠ΅ Ρ‡Π΅Ρ€Π΅Π· 10 ΠΌΠΈΠ½ΡƒΡ‚! ΠŸΡ€ΠΈΡΠΎΠ΅Π΄ΠΈΠ½ΠΈΡ‚ΡŒΡΡ ΠΌΠΎΠΆΠ½ΠΎ ΠΏΠΎ ссылкС: https://meet.google.com/ryk-irww-moz
360
19
πŸ“Ή Записи Π»Π΅ΠΊΡ†ΠΈΠΉ MadML Talks Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Π½Π° YouTube! Если Π²Ρ‹ пропустили эфир ΠΈΠ»ΠΈ Ρ…ΠΎΡ‚ΠΈΡ‚Π΅ ΠΏΠ΅Ρ€Π΅ΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ Π»Π΅ΠΊΡ†ΠΈΠΈ β€” Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ ΠΎΠ½ΠΈ доступны
πŸ“Ή Записи Π»Π΅ΠΊΡ†ΠΈΠΉ MadML Talks Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Π½Π° YouTube! Если Π²Ρ‹ пропустили эфир ΠΈΠ»ΠΈ Ρ…ΠΎΡ‚ΠΈΡ‚Π΅ ΠΏΠ΅Ρ€Π΅ΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ Π»Π΅ΠΊΡ†ΠΈΠΈ β€” Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ ΠΎΠ½ΠΈ доступны Π½Π° YouTube-ΠΊΠ°Π½Π°Π»Π΅ Mad Devs! ДСлимся ΠΎΠΏΡ‹Ρ‚ΠΎΠΌ, Ρ€Π°Π·Π±ΠΈΡ€Π°Π΅ΠΌ Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Π΅ кСйсы ΠΈ Π³ΠΎΠ²ΠΎΡ€ΠΈΠΌ ΠΎ машинном ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ Π±Π΅Π· лишнСй Π²ΠΎΠ΄Ρ‹. πŸ”— Π‘ΠΌΠΎΡ‚Ρ€ΠΈΡ‚Π΅ ΠΏΠΎ ссылкС: https://www.youtube.com/watch?v=PGU48_Z1vrg&list=PLsmdb5W8ytyoEQ2ofWufKnJgUKnNdJN6B ΠŸΠΎΠ΄ΠΏΠΈΡΡ‹Π²Π°ΠΉΡ‚Π΅ΡΡŒ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π½Π΅ ΠΏΡ€ΠΎΠΏΡƒΡΡ‚ΠΈΡ‚ΡŒ Π½ΠΎΠ²Ρ‹Π΅ выпуски!
350
20
Uplift modeling. Uplift-ΠΌΠΎΠ΄Π΅Π»ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ β€” это ΠΏΠΎΠ΄Ρ…ΠΎΠ΄, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π²Ρ‹Ρ…ΠΎΠ΄ΠΈΡ‚ Π·Π° Ρ€Π°ΠΌΠΊΠΈ стандартных ML-Π·Π°Π΄Π°Ρ‡ классификации. ΠœΡ‹ рассмотри
Uplift modeling. Uplift-ΠΌΠΎΠ΄Π΅Π»ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ β€” это ΠΏΠΎΠ΄Ρ…ΠΎΠ΄, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π²Ρ‹Ρ…ΠΎΠ΄ΠΈΡ‚ Π·Π° Ρ€Π°ΠΌΠΊΠΈ стандартных ML-Π·Π°Π΄Π°Ρ‡ классификации. ΠœΡ‹ рассмотрим ΠΊΠ»Π°ΡΡΠΈΡ‡Π΅ΡΠΊΡƒΡŽ ΠΈ Π°Π»ΡŒΡ‚Π΅Ρ€Π½Π°Ρ‚ΠΈΠ²Π½ΡƒΡŽ постановки Π·Π°Π΄Π°Ρ‡ΠΈ, Ρ€Π°Π·Π±Π΅Ρ€Π΅ΠΌ Π±Π°Π·ΠΎΠ²Ρ‹Π΅ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Ρ‹ ΠΊ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡŽ T-Learner, S-Learner, X-Learner. Π‘ΠΏΠΈΠΊΠ΅Ρ€ Π”ΠΌΠΈΡ‚Ρ€ΠΈΠΉ Π‘ΠΎΡ€ΠΎΠΊΠ°, Data scientist, Head of data Π² Π­Π»Π΄ΠΈΠΊ Π‘Π°Π½ΠΊ ВрСмя ΠΈ Π΄Π°Ρ‚Π° 31 июля, Ρ‡Π΅Ρ‚Π²Π΅Ρ€Π³, с 18:00 Π΄ΠΎ 19:00 (ΠΏΠΎ Π‘ΠΈΡˆΠΊΠ΅ΠΊΡƒ) Бсылка Π½Π° встрСчу meet.google.com/ryk-irww-moz
1 557