Neural Black Magic

💔⚰🪦

📃 Gold-medalist Performance in Solving Olympiad Geometry with AlphaGeometry2 📝 Abstract:

We present AlphaGeometry2, a significantly improved version of AlphaGeometry introduced in Trinh et al. (2024), which has now surpassed an average gold medalist in solving Olympiad geometry problems. To achieve this, we first extend the original AlphaGeometry language to tackle harder problems involving movements of objects, and problems containing linear equations of angles, ratios, and distances.

Share with your friends😇🤗. @neuralblackmagic

بیاید جواب سوال ۹ المپیاد هوش مصنوعی رو به صورت تجربی با رویکرد Frequentist تخمین بزنیم🤗؛

p= 0.5           # Coin probability
n1= 701          # Player 1 trials
n2= 702          # Player 2 trials
N= 100000        # Number of experiments

r1 = np.sum(bernoulli.rvs(p, size=N*n1).reshape(N, n1), axis=1)   # Sampling from Bernoulli distribution
r2 = np.sum(bernoulli.rvs(p, size=N*n2).reshape(N, n2), axis=1)   # Sampling from Bernoulli distribution

estimated_probability = len(np.where(r2-r1>0)[0])/N         # Estimating the Probability
print("Estimated Probability is: ", estimated_probability)

جواب:

Estimated Probability is:  0.5012

با دوستان خودتون هم به اشتراک بذارید😇🤗. @neuralblackmagic

بیاید جواب سوال ۹ المپیاد کامپیوتر رو به صورت تجربی با رویکرد Frequentist تخمین بزنیم🤗؛

 python
p= 0.5                                 # Coin probability
n1= 701                                # Player 1 trials
n2= 702                                # Player 2 trials
N= 100000                              # Number of experiments

r1 = np.sum(bernoulli.rvs(p, size=N*n1).reshape(N, n1), axis=1)   # Sampling from Bernoulli distribution
r2 = np.sum(bernoulli.rvs(p, size=N*n2).reshape(N, n2), axis=1)   # Sampling from Bernoulli distribution

estimated_probability = len(np.where(r2-r1>0)[0])/N         # Estimating the Probability
print("Estimated Probability is: ", estimated_probability)

جواب:

 math
Estimated Probability is:  0.5012

بیاید جواب سوال ۹ المپیاد کامپیوتر رو به صورت تجربی با رویکرد Frequentist تخمین بزنیم🤗؛ ‍‍``` python p= 0.5 # Coin probability n1= 701 # Player 1 trials n2= 702 # Player 2 trials N= 100000 # Number of experiments r1 = np.sum(bernoulli.rvs(p, size=N*n1).reshape(N, n1), axis=1) # Sampling from Bernoulli distribution r2 = np.sum(bernoulli.rvs(p, size=N*n2).reshape(N, n2), axis=1) # Sampling from Bernoulli distribution estimated_probability = len(np.where(r2-r1>0)[0])/N # Estimating the Probability print("Estimated Probability is: ", estimated_probability)

math Estimated Probability is: 0.5012 ``` با دوستان خودتون هم به اشتراک بذارید😇🤗. @neuralblackmagic

المپیادهای دانش‌آموزی یه سری آزمون خفن با سوالات خوش‌فکر هستند که در رشته‌هایی مثل فیزیک، شیمی، ریاضی، کامیوتر (Informatics) و ... در سطح جهان بین به‌ترین دانش‌آموزان در این رشته‌ها برگذار میشه. از سال ۲۰۲۴ المپیاد هوش مصنوعی هم به لیست المپیادها اضافه شده و برگذار میشه. تو این پست سوالات و پاسخ کلیدی مرحله اول المپیاد هوش مصنوعی کشورمون ارائه شده. سوالات قشنگی داره🤩. با دوستانتون هم به اشتراک بذارید😇🤗. @neuralblackmagic

New Video by Andrej Karpathy 🤖🔥 https://youtu.be/7xTGNNLPyMI?si=BzxyqYBlBTpf_f8f 👊🤘 📝 Contents:

● Introduction ● Pretraining data (Internet) ● Tokenization ● Neural network I/O ● Neural network internals ● Inference ● GPT-2: training and inference ● Llama 3.1 base model inference ● Pretraining to post-training ● Post-training data (Conversations) ● Hallucinations, tool use, knowledge/working memory ● Knowledge of self ● Models need tokens to think ● Tokenization revisited: models struggle with spelling ● Jagged intelligence ● Supervised finetuning to reinforcement learning ● Reinforcement learning ● DeepSeek-R1 ● AlphaGo ● Reinforcement learning from human feedback (RLHF) ● Preview of things to come ● Keeping track of LLMs ● Where to find LLMs ● Grand summary

Follow for more 😇 and share with your friends 🤗. @neuralblackmagic

🔸 توابع بازگشتی در پایتون! 🔸 این جلسه از مباحث تقریباً پیچیده در پایتون هست. من چیزی نمی‌گم خودتون این ویدئو رو ببینید 😁 🔗 لینک مشاهده‌ی دوره صفر تا قهرمانی پایتون 🌏 izlearn.ir

بازگشت یا Recursion چیه؟ بازگشت یا Recursion در علوم رایانه، روشی برای حل یک مسئله هست که در اون راه‌حل مسئله اصلی به راه‌حل‌هایی برای نمونه‌های کوچک‌تر از همون مساله وابسته هستند. به‌طور مثال تابع فاکتوریل رو در نظر بگیریم:

f(n)=n!=n×(n-1)×(n-2)×...×2×1

با یه بازنگری در نگارش می‌تونیم تابع فاکتوریل رو به شکل زیر بازنویسی کنیم:

f(n)=n!=n×[(n-1)×(n-2)×...×2×1]=n×(n-1)!=n×f(n-1)

طبق چیزی که مشاهده می‌کنید با این نگرش، تابع فاکتوریل رو برحسب فاکتوریل عدد قبلیش نوشتیم و تابع داخل خودش، خودش رو استفاده می‌کنه. این نگرش بازگشتی در علوم کامپیوتر و برنامه‌نویسی خیلی پرکاربرده و البته در نگاه اول کمی بدقلق و چالشی! تو ویدئو زیر می‌تونید بدون دغدغه و چالش آشنایی بیشتری با نگرش بازگشتی، توابع بازگشتی در برنامه‌نویسی و پیاده‌سازی این توابع در زبان برنامه‌نویسی پایتون 🐍 به دست بیارید🔥. https://t.me/izlearn_school/149

A Good PyTorch🔥 Cheat Sheet🤩 @neuralblackmagic

Alibaba's new Language Model🔥 🤖 https://chat.qwenlm.ai Github Repo: https://github.com/QwenLM/Qwen Read more: https://qwenlm.github.io/blog/qwen2.5-max/ @neuralblackmagic

Titans: Transformer v.2? 📃🖋Read the paper. @neuralblackmagic

Defining a Deep Fully-connected Neural Network with arbitrary depth and neurons in only 1 lines of code using PyTorch🔥 Defining Fully Connected Network:

model = nn.Sequential(*nn.ModuleList([m for sl in [[nn.Linear(layers[i], layers[i+1]), nn.ReLU()] for i in range(len(layers)-2)] for m in sl]+[nn.Linear(layers[-2], layers[-1])]))

Let's test it🤩

import torch
import torch.nn as nn

x = torch.rand(32, 16) # input data

layers = [2**i for i in range(5, 5+10)] # [layer_1, layer_2, ..., layer_n]
layers.insert(0, x.shape[-1]) # [input_shape, layer_1, layer_2, ..., layer_n]
model = nn.Sequential(*nn.ModuleList([m for sl in [[nn.Linear(layers[i], layers[i+1]), nn.ReLU()] for i in range(len(layers)-2)] for m in sl]+[nn.Linear(layers[-2], layers[-1])]))

print(model)
print("Output Shape: ", model(x).shape)

Let's check the output:

Sequential(
  (0): Linear(in_features=16, out_features=32, bias=True)
  (1): ReLU()
  (2): Linear(in_features=32, out_features=64, bias=True)
  (3): ReLU()
  (4): Linear(in_features=64, out_features=128, bias=True)
  (5): ReLU()
  (6): Linear(in_features=128, out_features=256, bias=True)
  (7): ReLU()
  (8): Linear(in_features=256, out_features=512, bias=True)
  (9): ReLU()
  (10): Linear(in_features=512, out_features=1024, bias=True)
  (11): ReLU()
  (12): Linear(in_features=1024, out_features=2048, bias=True)
  (13): ReLU()
  (14): Linear(in_features=2048, out_features=4096, bias=True)
  (15): ReLU()
  (16): Linear(in_features=4096, out_features=8192, bias=True)
  (17): ReLU()
  (18): Linear(in_features=8192, out_features=16384, bias=True)
)
Output Shape:  torch.Size([32, 16384])

Follow us for high quality tutorials on Machine Learning and Deep Learning: @neuralblackmagic