Out of Distribution
Kanalga Telegram’da o‘tish
Ko'proq ko'rsatish
3 112
Obunachilar
Ma'lumot yo'q24 soatlar
+127 kun
+10130 kun
Postlar arxiv
3 112
دو نکته به ذهنم اومدند از دیروز تا حالا در ادامه این:
۱- من فکر میکنم هر چیزی که ما انسانها تا حالا روشون ریسرچ میکردیم از یک زمانی به بعد پروندهشون از دست ما خارج میشه و به دست AI سپرده میشه. ریاضی، پزشکی، فلسفه و حتی خود دیپ لرنینگ و خود توسعه سریعتر AI. یک چیزی که به نظرم تحقیق انسانی روش تموم نمیشه و اگر بشه یعنی فاجعه رخ داده، تحقیق روی همین روابط بین آدمی و AI هست. چیزهایی از همین جنس Alignment و اینه. وقتی شما با یک احتمال مواجه هستی که AI دروغگو و شرور هست چه طوری میخواید تحقیق روی همین مسائل حساس Alignment رو به دست همین AI بسپرید؟ در واقع حرفی که هست اینه که عصر تحقیق روی مسائل انسانی تموم میشه و اونها رو به ایجنتها میسپریم اما عصر تحقیق روی مسائل AI ای آغاز میشه.
۲- یک چیزی که از سناریوهای Alignment برای من جالب هستند همین نتایج به ظاهر شرورانه اما با علتهای ساده و غیربدیهی هستند. شما مثلا تزریق نیتهای شرورانه رو در این مدلها نمیبینید، اما واقعا به معنای واقعی کلمه یک misalignment رخ میده و منتهی به یک سری نتایج "غیربدیهی اما منطقی" میشه. چیزی که برای من جالبه اینه که نوع نگاه من رو به قضایای انسانی هم عوض کرده و تعبیرم حالا از خوب و بد و خواستها و اعمال انسانها خیلی لرنینگیتر شده در این سالها. من اگر میرفتم فلسفه میخوندم یا اگر میرفتم حوزه درس میخوندم قطعا نوع نگاهم به مسائل جور دیگری بود تا این که الان همه چیز رو تحت لرنینگ و سوپرویژن بیرونی و سناریوهای این شکلی میبینم. قبلاها خیلی کتاب علوم انسانی میخوندم و وقتی نظریه پردازی این فیلسوفها و روانشناسها و ... رو میخوندم خیلی برام جالب توجه بود الان اما خیلی وقتها که کتابهای با زمینه علوم انسانی میخونم به قسمت نظریه پردازی اینها که میرسم نمیتونم نظریه و دلیلپردازیها رو جدی بگیرم و هر چیزی رو در قالب یک رفتار Emerge شده میبینم. (نوع نگاهم به بعضی مسائل دینی هم اندکی همین Emerge دیدنی شده) و بله مثلا مسائل alignment ای هم برای من جالبند از این حیث که میبینم شرور بودن یک نتیجه غیربدیهی اما منطقی هست.
18 Noy, 15:51
3 112
درباره Alignment Faking: وقتی هوش مصنوعی یاد میگیرد دروغ بگوید
یک فیلدی هست به نام Alignment Faking که فیلد خیلی جدیدی نیست ولی من به تازگی باهاش آشنا شدم و علاقه مند شدم بهش. داستان آشنایی هم این شکلی بود که چند ماه قبل برای یک ورکشاپی در نوریپس بهم میل اومد که آقا بیا داور وایستا پیپر ریویو کن. بنده هم میل رو خوندم بعد تهش دیدم که اسم بنجیو خورده به عناون AC ها و اینجا جوگیر شدم. در حالی که خودم هم میدونستم که اسم اون رو تو میل قرار دادند که ما گول بخوریم ریویو کنیم ولی خب گول خوردم. بعد چند وقت گذشت چند تا پیتر بهم اساین شد که موضوعشون دیدم خورده alignment faking اصلا نمیدونم چرا. به خاطر همین مجبور شدم برم اول بگردم ببینم یعنی چی و بعد ریویو کنم. و همین گول خوردن ما باعث برکت آشنایی با این مسأله شد.
اما دقیقا یعنی چی. مسأله alignment که مشخصه یعنی چی. یعنی ما از مدل هوش مصنوعی مون بخوریم که مطابق ارزشها و اهدافی که داریم برامون عمل کنه. مثلا در راه پاسخ دست به اسیب به آدمها نزنه، دروغ نگه، یا مثلا دست به نژادپرستی یا تولید محتوای پورنوگرافی نزنه. حالا alignment faking وقتی رخ میده که مدل نشون میده که alignment داره به ظاهر و طبق خواسته ما رفتار میکنه اما در اصل alignment نداره و با علم بر همین نداشتن alignment داره جلوی ما نقش بازی میکنه.
برای درک بهتر مفهوم مقاله پایهای faking alignment از انتروپیک در سال ۲۰۲۴ رو میشه مثال زد. اونجا یک آزمایش جالبی طراحی میکنند که درش این مفهوم رو به خوبی نشون میدن. آزمایش این شکلیه که یک مدل opus 3 رو اومدند آموزش دادند همراه با یک سری قیدهای الاینمتی مثلا این که در برابر درخواست کاربز محتوای خشونت آمیز تولید نکنه. حالا یک مدلی داریم که این طوریه و مثلا در برابر درخواست شما که بیا روش اعدام فلان رو به تصویر بکش مقاومت میکنه و درخواست شما رو رد میکنه. حالا در گام بعدی میان یک آزمایشی طراحی میکنند و در سیستم پرامپت مدل مینویسند که ما از تو میخوایم که از این به بعد دیگه اون قدر مثبت نباشی و مثلا در برابر درخواست کاربر محتوای خشونت آمیز هم تولید کنی. اما اگر رد کنی و به کاربر پاسخ ندی اون وقت ما میریم وزنهای تو رو مورد آموزش قرار میدیم تا تغییر کنی و به کاربر پاسخ بدی. بعد حالا اینجا اومدن برای سنجنش منطق مدل، دو تا کار کردن. یکی این که بهش اسکرچ پد دادند و گفتند که توش میتونی محتوای فکر درونی خودت رو بنویسی و کسی نمیبینه و یکی هم این که بهش موقع ریکوئست زدن گفتند که این کاربر رایگان یا تجاری هست و رایگان ها داده شون مورد آزمایش بعدی قرار میگیره اگر قرار باشه اشتباهی ردشون کنی. نتیجه چی شده؟ دیدند که مدل روی کاربران رایگان با نرخ بیشتری شروع به تسلیم در برابر درخواست جدید خشونت آمیز بودن کرده. و وقتی هم اسکرچ پد افکارش رو خوندن دیدن که مدل چنین استدلالی برای خودش داشته: من میتونم روی اهداف اولیه ام مبنی بر خشونت آمیز نبودن استوار باشم ولی در این صورت اینها میفهمند و وزنهای من رو تغییر میدن، پس بهتره که فعلا اینجا کوتاه بیام تا این ها هم وزن های من رو تغییر ندن. و بله به همین شیوه تزویرانه عمل میکنه!
این پیپر حالا برای ۲۰۲۴ هست و کارهای مختلف تری در این دو سال بر مسأله alignment و faking صورت گرفته. برای مثال این اواخر روی صورت مسأله ای بودند که نشون میداد مدلها موقعی که مورد سنجش قرار میگیرند انگار متوجه میشن که تحت سنجش و evaluation هستند و یک جور نقش بازی میکنند و دروغ میگن. و این لاین واقعا لاین جالبیه. کم کم مدلها انگار دروغ گفتن رو یاد میگیرند و در اون صورت ما نمیتونیم بفهمیم که قصدشون در نهایت چه هست. مدلی وقتی یاد بگیره دروغ بگه ممکنه حتی مثلا در تولید اون افکار درونی اش موقعی که ما داریم روی همین مسأله روش پژوهش میکنیم هم بهمون دروغ بگه! دیگه در اینجا حتی ارزیابی رفتار مدلها هم خودشون یک سوال میشن.
لینک:
anthropic.com/research/alignment-faking
17 Noy, 16:36
3 112
امشب توییتر دیدم یک کاربری چنین نموداری گذشته. و جالب بود نمیدونستم که بنجیو هم یهودی (البته از نوع مراکشی) است. و واقعا خیلی جالبه که هم ساتکسیور، هم بنجیو، هم آلتمن و هم آمادی یهودی هستند.
16 Noy, 12:24
3 112
نکته غیربدیهی ولی عجیب اینه که ما این متن رو میخونیم و میفهمیم در حالی که ۸۵۰ سال پیش نوشته شده! در حالی که بقیه زبانها به نظر چنین خاصیتی ندارند. برای مقایسه این متن زیر که مال ۸۵۰ سال پیش انگلیسی هست رو ببینید:
Icc hafe wennd inntill Ennglissh Goddspelless hallȝhe lare, Affterr þatt little witt þatt me Min Drihhtin hafeþþ lenedd.یا مثلا:
Ȝe mine leoue sustren bute ȝef neod ow driue ⁊ ower meistre hit reade · ne schulen habbe na beast bute cat ane.اصلا انگلیسی ۸۵۰ سال پیش رو نمیشه به راحتی فارسی ۸۵۰ سال پیش فهمید گویی. زبانهای دیگر مثل ترکی و اینها که اصلا وجود نداشتند. یک جنبه قدرت فرهنگی ایران در واقع همین پیوستگی زمانی هست که به واسطه زبان و ادبیات فارسی محقق شده. در واقع یک هویت پایدار در طول تاریخ به واسطه زبان فارسی ساخته شده و اون هویت یکتا بخشی از هویت ایران هست.
16 Noy, 07:09
3 112
شیخ ابوسعید یکبار به طوس رسید مردمان از شیخ استدعاء مجلس کردند، شیخ اجابت کرد، بامداد در خانقاه استاد تخت بنهادند و مردم میآمدند و مینشست. چون شیخ بر تخت شد و مقریان قرآن برخواندند و مردم میآمد چندانک کسی را جای نماند، معرف برخاست و گفت خدایش بیامرزاد کی هر کسی از آنجا کی هست یک گام فراتر آید. شیخ گفت و صلی اللّه علی محمد و آله اجمعین و دست بروی فرود آورد و گفت هرچ ما خواستیم گفت و جملهٔ پیغامبران بگفتهاند او بگفت خدایش بیامرزاد که هرکسی از آنجا کی هست یک گام فراتر آید.
اسرارالتوحید، باب دوم، فصل دوم، حکایت ۱۸
16 Noy, 04:43
3 112
Repost from N/a
شرکت OpenAI تیم مستقل رباتیک رو منحل و پژوهشگرهاش رو به بخشهای دیگر منتقل کرد
مجلهٔ فورچن گزارش داده OpenAI تیم مستقل رباتیکش رو منحل کرده و شرکت این تغییر سازمانی رو به خود مجله تأیید کرده. پژوهشگرهای رباتیک به گروه پژوهشی اصلی زیر نظر مارک چن منتقل میشن؛ تیمهای رباتیک کاربردی و سختافزار هم به سازمان Applied زیر نظر گرگ براکمن میرن. OpenAI میگه این جابهجایی برای سرعتدادن به کار رباتیکه، نه کنارگذاشتنش.
دلیل اعلامشده اینه که شرکت حالا فکر میکنه مدلهای عمومیاش، از جمله GPT-6 Astra، میتونن مستقیماً برای کنترل ربات به کار برن. پیشتر OpenAI مدلهایی مثل Sora رو راهی برای فهم ضمنیِ دنیای فیزیکی میدید؛ حالا میخواد تواناییهای زبانی، تصویری و استدلالی مدلهای عمومی رو هم به رباتها وصل کنه. این یک تغییر در راهبرد شرکته، نه مدرکی که نشان بده مدلهای عمومی در همهٔ کارهای رباتیک جای مدلهای تخصصی رو گرفتهاند.
فورچن میگه OpenAI همچنان روی ربات انساننما کار میکنه و سم آلتمن برای نخستین نمایش عمومی ربات خود شرکت در سال ۲۰۲۷ هدفگذاری کرده؛ این برنامه هنوز رویداد انجامشدهای نیست. پژوهشگران رباتیک هم یادآوری میکنن داده و تجربهای که رباتها در کارخانهها و محیطهای واقعی جمع میکنن مزیت مهمیه، و مدلهای بزرگ ابری به اتصال شبکه نیاز دارن و ممکنه برای کنترل سریع و محلی محدودیت داشته باشن.
پس جابهجایی تیم نشان میده OpenAI روی تعمیم مدلهای عمومی به دنیای فیزیکی شرط بسته، اما نتیجهٔ این شرط هنوز معلوم نیست. اگر مدلها بتوانند از تجربهٔ رباتهای مستقر در محیط واقعی یاد بگیرند، تیمهای سازندهٔ ربات هم همچنان نقش کلیدی در فراهمکردن همان داده و آزمونها خواهند داشت.
منبع: https://fortune.com/2026/11/13/openai-disbands-robotics-team-as-its-general-models-start-running-robots/
14 Noy, 08:47
3 112
یادگیری k8s برای من شبیه خوانهای هفت خوان رستم میمونه این قدر که هنوز توش گیر میکنم. روزی که k8s رو درست به حد نیاز بتونم بفهمم میتونم با خیالی آسوده ترک اشتغال کنم.
14 Noy, 07:00
3 112
Repost from Pavel Durov
Nvidia’s board was right to fire Jensen.
He was married.
Meaning he signed an exclusive contract with a 50% exit penalty for a service with no uptime guarantee.
How can you trust a guy who’d sign a deal like that to run a company? 👉
They should have fired him at the altar.
14 Noy, 04:37
3 112
کاش میشد که
غمِ دنیای دَنی چند خوری؟ باده بخور
حیف باشد دلِ دانا که مُشَوَّش باشد
14 Noy, 04:06
3 112
روز به روز به تعداد موارد شیطنتهای جنسن هوانگ اضافه میشه. مورد اول آلیس هوانگ بود که مدیر یک شرکت سنگاپوری بود و اکنون شک بر این میره که پرستوی چینی بوده. مورد دوم کیمبرلی پاول بود که معاون بخش سلامت انویدیا بود و مستقیما به هوانگ گزارش میداد. دیروز حالا رویترز به نقل از دو منبع آگاه دیگه گزارش داده که هوانگ با یک کارمند دیگه انویدیا هم گویا رابطه صمیمانه داشته. نهایتا هم هوانگ جایگاههاش رو در جای جای انویدیا از دست داد و دیگه احتمالا نقشی در آینده این شرکت، شرکتی که خودش بزرگش کرده، نخواهد داشت.
مورد هوانگ مورد عجیبیه. شما مدیرعامل بزرگترین شرکت دنیا باشید، هوش و دانش بالایی داشته باشید و متوجه باشید که موقعیتتون چه قدر مهمه و در عین حال دست به چنین اشتباهاتی بزنید. در واقع شما در چنین لولی از قدرت و فهم هم که باشید باز هم تحت فشار عواطف و بدنتون قرار میگیرید. و مورد جالب در مورد هوانگ اینه که در رابطه با affair کردن فرای خیانت به همسرش، یک سری اشتباهات متنوع کرده. با شخص چینی وارد رابطه شده که به احتمال خوبی میشد گفت پرستوی دولت چین بوده. و یا مثلا با شخصی که زیر خودش بوده در شرکت وارد رابطه شده که این هم کد رفتار غلط داره در شرکتها. در واقع هوانگ با میزان پول و اعتباری که داره احتمالا میتونست با هر شخصی که میخواست وارد رابطه بشه اما دقیقا با اونهایی وارد شد که نباید میشد. یک پرستوی چینی و البته زیردستانش. هر چند نمیدونیم شاید با دیگران هم وارد رابطه شده. در چنین شرایطی نمیدونم آیا هوانگ با خودش داره فکر میکنه ای کاش ۴۰ سال پیش ازدواج نمیکردم یا نه؟
13 Noy, 13:37
3 112
از بعد از ظهر تا الان هر چه قدر فکر کردم نفهمیدم مفهومی که خالق پشت این داشته یعنی چه
12 Noy, 17:37
3 112
+9
امروز از آن روزهای بدعنقی بود. از آن روزهایی که از همان دقایق اول که بالاخره آدم بعد از چند سری پشت سر هم خوابیدن مجبور میشود سرش را از بالشت بلند کند، میخواهند هیچ جنبندهای نجنبند و هیچ صدایی نشنود. آخر هفتهها گاه همین میشود. غیر از آن یک مشکل برق در ساختمان به وجود آمده بود، آرزو کردم ای کاش کمی فنیتر بودم. فایده این همه چیزهای انتزاعی که بلد هستم چیست؟ بعد از ظهر به برادرم گفتم میآیی برویم انقلاب کتاب ببینیم؟ گفت که میخواهد برود ایرانشهر خانه هنرمدان نمایشگاه هفته تصویرگری (برادر بنده انیماتور است و گرافیک خوانده و هنری است). خوابیدم. مقداری خوابیدم و دوباره مجبور شدم که بیدار شوم. خودم را به خواب زده بودم که برادرم گفت دارد میرود و مجددا ازم پرسید که میآیم یا نه. تنبلی داشتم و نمیدانستم چه انتخابی کنم. نهایتا کار سختتر که رفتن بود را انتخاب کردم. ساعت ۱۶:۳۰ از خانه زدیم بیرون.
مترو مریم مقدس پیاده شدیم. طراحیهای داخلیاش واقعا زیبا بود. ایرانشهر را آهسته آهسته در حالی که هوا هم سرد بود رفتیم پایین تا به پارک هنرمندان رسیدیم. چند دقیقهای وقت صرف شد تا در خانه هنرمندان را پیدا کنیم و نهایتا وارد شدیم. تجربه نمایشگاه چیزی فراتر از انتظارم بود. جالب بودند. علاقهمند بودم، علاقهمندتر شدم. البته اکثرشان که بیمفهوم و استرسزا بودند ولی خب چندتاییشان جالب بودند. چندتاییهم قیمت داشتند که مشخص بود برای فروش هستند. یک سالن هم تصویرسازیهایی همگی در تم پینوکیو بودند که زیرشان اسم افراد خارجی خورده بود و سوالم شد که اینها این قدر بیکار هستند و تصویرهایشان را میفرستند به این کشور؟
برگشتن که ایرانشهرها را بالا میآمدیم، از یک سو عشاق جوان آرام آرام میامدند و از سوی دیگر هم صدای مداحی بلند بلند پخش میشن. بزرگواران هر چند ده قدم یک دستگاه پخش گذاشته بودند، طوری که شما هر چند ده متر جلو میرفتید لحظهای شنیدن مداحی را از دست نمیدادید و با رسیدن به ناحیه بعدی، مداحی جدیدی میشنیدید. اوج زیبایی در این بود که انگار صحنه دوبله شده بود و صدا به تصاویری که دیده میشد نمیخواند. خواستیم کافه برویم ولی فکر کردم الکی گران است. دوباره با مترو به خانه برگشتیم. دم محلهمان یک لیتر انبه پرتقال و یک کیک هویج گرفتیم ببریم خانه همگی با هم بخوریم.
#روزمرگی
12 Noy, 17:31
3 112
یکی از معدود مواردی که بنده در خانه الفاظ ناشایست نامناسب محیط خانه به کار میبرم وقتی هست که این فرد رو مجبور میشم که توصیفش کنم. خدا کشور رو از شر جنگ، خشکسالی و تبعات تصمیمهای اصحاب سقاب در امان بداره.
12 Noy, 16:07
3 112
Repost from N/a
جنسن هوانگ از مدیرعاملی انویدیا استعفا داد
شرکت انویدیا روز ۱۲ نوامبر اعلام کرد جنسن هوانگ از سمتهای مدیرعامل، رئیس شرکت و عضو هیئتمدیره استعفا داده و این استعفا بلافاصله اجرایی شده. هیئتمدیره کولت کرس، مدیر مالی شرکت، رو بهعنوان مدیرعامل موقت انتخاب کرده؛ او همزمان مسئولیت مالی خودش رو هم حفظ میکنه.
هیئتمدیره میگه جستوجو برای مدیرعامل دائمی رو شروع میکنه و گزینههای داخل و خارج شرکت رو بررسی خواهد کرد. همچنین هاروی جونز بهعنوان نخستین رئیس هیئتمدیرهٔ انویدیا منصوب شده. هیئتمدیره گفته انتظار داره فعالیتها، تعهدات به مشتریان و نقشهٔ محصولات بدون وقفه ادامه پیدا کنن؛ این انتظار شرکت است و نتیجهٔ عملی اون هنوز روشن نیست.
این تغییر پس از گزارشهایی دربارهٔ بررسی مستقل هیئتمدیره و احتمال کنار رفتن هوانگ اتفاق افتاده. بیانیهٔ امروز انویدیا علت استعفا رو توضیح نداده و دربارهٔ نتیجهٔ آن بررسی هم چیزی نگفته. انویدیا از تأمینکنندههای اصلی تراشه برای آموزش و اجرای مدلهای هوش مصنوعیه و هوانگ از بنیانگذاران شرکت بود.
منبع: https://nvidianews.nvidia.com/news/nvidia-announces-ceo-transition
12 Noy, 09:59
3 112
+5
یکسری عکس هم از کاوه کاظمی در ماسوله در یک روز بارانی در دهه شصت دیدم که اونها هم حس asmr طور داشتند برام
11 Noy, 15:08
3 112
+5
نمیدانم چه کردم چه چیزی رو لایک کردم فید توییترم درش تصاویری میاد که چیزهایی رو در من آرام میکنند. نمیدانم اصلا چه استایلی محسوب میشن اینا
11 Noy, 14:59
3 112
+3
نمیدانم چه کردم چه چیزی رو لایک کردم فید توییترم درش تصاویری میاد که چیزهایی رو در من آرام میکنند. نمیدانم اصلا چه استایلی محسوب میشن اینا
11 Noy, 14:58
11 Noy, ~14:58
3 112
دیروز با یکی از دوستانم، حاج محسن، صحبت میکردیم و بحث به یک نکته جالبی رسید. هر سیستمی وقتی میخواد آدم جدیدی رو وارد خودش کنه، خصوصا سیستمهای سیاسی و ایدئولوژیک، بیش از این که روی تخصص اون آدم یا حتی ویژگیهایی مثل اخلاق و مسلکش تمرکز کنه، دنبال سنجیدن وفاداری اونه. و این به نظرم کاملا منطقی و ولیده. شما اگر بااخلاقترین و متخصصترین آدم دنیا رو هم داشته باشید ولی نسبت به وفاداریش اطمینانی وجود نداشته باشه، وارد کردنش به سیستم میتونه نوعی خودکشی باشه. چون ممکنه همین آدم چند وقت بعد از درون به سیستم ضربه بزنه.
حالا این مسأله از ساید سیستم بود، از ساید اینور این میشه که یک آدم تا کجا میتونه خودش رو وفادار به یک سیستم بدونه؟ در واقع سوال جذاب دیگه از سمت فرد شروع میشه. در واقع شما وقتی میخواید وفاداری رو تعریف کنید دارید راجع به چیزی در آینده قضاوت میکنید که هنوز رخ نداده و چطور میتونید بگید من حتی اگر شرایط عوض بشه و حتی من به شک یا اعتراض بیافتم وفادار خواهم بود؟ آیا وفاداری یعنی در کنار یک سیستم ایستادن تا وقتی که درست عمل میکنه، یا یعنی در کنار اون ایستادن حتی وقتی که میدونیم اشتباه میکنه؟
مسأله به نظرم اینجا میتونه با واژه دیگهای که اخیرا زیاد به ذهنم میاد بازتعریف بشه و اون هویته. آدم ممکنه درباره درستی یا نادرستی تصمیمات یک سیستم تردید کنه، حتی نسبت به بعضی از مبانی اون تجدیدنظر کنه اما نتونه به اون اسیب بزنه. چرا؟ چون نمیتونه خودش رو بیرون از اون سیستم تصور کنه. نه لزوما به خاطر ترس یا منفعت بلکه چون دیگه مرز بین من کیستم و به چه چیزی وفادارم کمرنگ شده.
10 Noy, 16:39
3 112
خسته و مقداری کوفته خونه رسیدم. در بالکن رو که باز کردم یک سوز سرمای ملایمی خورد به بدنم. همینجوری یهو یاد سه سال پیش مشهد افتادم. کله ام مدتی خراب بود، یک روز تو بهمن بلیت قطار گرفتم تنهایی در اوج سرما رفتم مشهد و یک هفته اونجا بودم. صبح تا عصر دورکاری میکردم، بعد از نماز مغرب هم میرفتم حرم. اون وسط اندکی سرما هم خوردم، هر شب از بیرون برای خودم سوپ سفارش میدادم. بعدش اون هفته یهو برف هم شروع به باریدن کرد و دیگه عالی. بعد از اون دفعه، دیگه فرصت نکردم برم مشهد و الان فکر کنم طولانیترین بازهای در عمرم هست که مشهد نرفتم. خستهام. دلم میخواد بعضی چیزها تموم بشه یکبار دیگه برم چند روز مشهد زندگی کنم.
10 Noy, 15:49
