سینگولاریتی چیه و آیا واقعا بهش نزدیکیم؟

هر چند وقت یه بار یکی توی اینترنت می گه سینگولاریتی نزدیکه. یکی می گه تا چند سال دیگه می رسه، یکی می گه همین الان شروع شده و یکی هم از اون طرف می گه هنوز AI نمی تونه دنیا رو مثل یه گربه بفهمه. من هم وسط این بحث معمولا یه سوال ساده دارم: بالاخره داریم درباره چی حرف می زنیم؟

چون سینگولاریتی از اون کلمه هاییه که هم توی مقاله علمی پیداش می کنی، هم توی فیلم علمی تخیلی، هم توی پست کسی که سه تا نمودار نمایی دیده و برای سال ۲۰۴۵ بلیت یک طرفه خریده. همه هم کلمه یکسانی به کار می برن، ولی لزوما منظور یکسانی ندارن.

اینجا می خوام بدون رفتن توی فاز پیشگویی، ماجرا رو از اول باز کنم. اول خود سینگولاریتی رو از AGI و ابرهوش جدا می کنم. بعد وضعیت واقعی AI رو تا سپتامبر ۲۰۲۶ نگاه می کنم و آخرش هم می رم سراغ حرف آدم هایی مثل ری کرزویل، سم آلتمن، داریو آمودی، دمیس هسابیس، یان لوکان و جفری هینتون.

اگه بخوام جواب خیلی کوتاه رو همین اول بدم، به نظرم به دوره ای رسیدیم که احتمال تغییرهای عجیب رو دیگه نمی شه با خنده رد کرد. ولی هنوز مدرک کافی نداریم که بگیم سینگولاریتی پشت دره و فقط داره بند کفشش رو می بنده.

اول بگم سینگولاریتی اصلا چیه

سینگولاریتی فناورانه یه نقطه فرضی در آینده هست که بعد از اون، سرعت پیشرفت فناوری اون قدر زیاد می شه که پیش بینی ادامه مسیر با ذهن و ابزار امروز خیلی سخت می شه. اسمش از سینگولاریتی در فیزیک الهام گرفته شده. همون جایی که مدل های عادی ما دیگه مثل قبل جواب نمی دن و پشت افق رویداد رو مستقیم نمی بینیم.

این تعریف نمی گه حتما یه ربات قرمز چشم ساعت هشت صبح سه شنبه کنترل جهان رو می گیره. حتی نمی گه سینگولاریتی باید در یک لحظه مشخص اتفاق بیفته. ممکنه از بیرون شبیه یه انفجار ناگهانی باشه یا از داخل، مجموعه ای از تغییرهای پیوسته که کم کم عادی می شن. اینترنت هم برای آدمی که از سال ۱۹۸۰ یک دفعه به امروز پرت بشه، احتمالا یه جور جادو به نظر میاد. برای ما شده همون چیزی که وقتی قطع می شه مودم رو خاموش روشن می کنیم.

سه مفهوم معمولا توی این بحث قاطی می شن:

• AGI یا هوش عمومی مصنوعی سیستمیه که بتونه طیف بزرگی از کارهای ذهنی رو تقریبا در سطح انسان انجام بده و مهارتش فقط به یه حوزه باریک محدود نباشه.
• ابرهوش یا Superintelligence از انسان در بیشتر کارهای مهم ذهنی بهتره. نه فقط شطرنج یا ترجمه، بلکه پژوهش، برنامه ریزی، طراحی و تصمیم گیری.
• سینگولاریتی خود اون مدل باهوش نیست. تغییریه که شاید از ابرهوش، خودبهبودی سریع و اثرش روی علم، اقتصاد و جامعه دربیاد.

پس حتی اگه فردا AGI ساخته بشه، از نظر منطقی هنوز ثابت نشده همون فردا سینگولاریتی هم میاد. شاید رشد بعدش کند باشه. شاید انرژی، چیپ، آزمایشگاه، قانون، پول یا خود پیچیدگی علم ترمز بکشه. شاید هم AI به پژوهش AI سرعت بده و فاصله بین نسل ها از سال به ماه و از ماه به هفته برسه. تمام دعوا تقریبا سر همین «شاید»هاست.

برای من مهم ترین نکته همین جداسازیه. خیلی وقت ها یه مدل توی ریاضی رکورد می زنه و تیتر خبر مستقیم می پره روی «سینگولاریتی نزدیک شد». بین حل یه بنچمارک و عوض شدن کامل مسیر تمدن چند تا پله بزرگ هست. پله هایی که فعلا بعضی هاشون حتی نقشه ساختمون هم ندارن.

این ایده از کجا اومد

ریشه معروف ماجرا به سال ۱۹۶۵ و نوشته ای از ریاضیدان بریتانیایی، آی. جی. گود برمی گرده. گود در مقاله Speculations Concerning the First Ultraintelligent Machine درباره ماشینی حرف زد که از هر انسان باهوش تره. استدلالش این بود که طراحی ماشین هوشمند خودش یه کار فکریه. پس ماشینی که از ما بهتر فکر می کنه، احتمالا می تونه نسخه بهتر خودش رو هم طراحی کنه. این چرخه می تونه چیزی بسازه که بعدا بهش «انفجار هوش» گفتن.

ایده گود ساده و خیلی قدرتمنده. من یه ابزار می سازم که در ساخت ابزار بعدی کمکم می کنه. ابزار بعدی بهتره و نسخه بعدتر رو سریع تر می سازه. اگه این حلقه هر بار قوی تر بشه و مانع بزرگی جلوش نباشه، منحنی آروم آروم از دست ما در می ره. مثل اینه که کامپایلر خودش شروع کنه کامپایلر بهتر ساختن، فقط در مقیاسی که روی علم و صنعت هم دست داره.

سال ۱۹۹۳ ورنر وینج، نویسنده و استاد ریاضی، توی مقاله The Coming Technological Singularity این ایده رو با اسم سینگولاریتی معروف تر کرد. وینج چند راه برای رسیدن به هوش فراتر از انسان مطرح کرد. ماشین های هوشمند، شبکه بزرگی که یه جور هوش جمعی پیدا کنه، اتصال نزدیک انسان و کامپیوتر و حتی بهتر کردن زیستی مغز انسان.

وینج حدس زده بود هوش فراتر از انسان ظرف حدود سی سال ساخته می شه. سی سال از ۱۹۹۳ ما رو به ۲۰۲۳ می رسونه و خب، هنوز هیچ توافق جدی وجود نداره که بگیم اون اتفاق افتاده. این شکست زمانی یه یادآوری خوبه. آدم خیلی باهوش هم وقتی پای فناوری پیچیده وسطه ممکنه ساعت آینده رو اشتباه تنظیم کنه. پیش بینی کردن کار راحتیه، فقط آینده یه عادت بدی داره که همکاری نمی کنه.

بعد ری کرزویل این ایده رو به شکل گسترده تری وارد فرهنگ فناوری کرد. نسخه معروف پیش بینیش اینه که AI حوالی ۲۰۲۹ به سطح هوش انسانی می رسه و سینگولاریتی در ۲۰۴۵ اتفاق میفته. کرزویل هنوز هم روی این تاریخ ایستاده. توی پرسش و پاسخ خودش درباره سینگولاریتی اون رو دوره ای می دونه که بازطراحی سریع هوش غیرزیستی، سرعت تغییر رو برای ذهن معمولی ما غیرقابل دنبال کردن می کنه.

این تاریخ ها قانون طبیعت نیستن. عددهایی هستن که از مدل ذهنی کرزویل درباره رشد نمایی محاسبات و فناوری میان. می شه از روندهای گذشته چیز یاد گرفت، ولی خط کشیدن روی نمودار به تنهایی آینده رو تولید نمی کنه. CPU سریع تر شرط مهمیه، اما فهم، استقلال، امنیت، داده، انرژی، ساخت کارخانه و هماهنگی اجتماعی رو نمی شه با یه خط نمایی خوشگل حل کرد.

وضعیت هوش مصنوعی الان واقعا چطوره

اگه کسی در ۲۰۱۹ می گفت چند سال دیگه با یه مدل حرف می زنیم، ازش کد می گیریم، عکس می سازیم، فایل تحلیل می کنیم و برای حل مسئله بهش ابزار می دیم، حرفش کمی شبیه معرفی محصولی بود که تیم فروش قبل از تیم فنی ساخته. ولی الان این کارها عادی شدن.

مدل های جدید فقط ادامه جمله نمی نویسن. تصویر، صدا و ویدیو رو می فهمن یا تولید می کنن، بین چند ابزار جابه جا می شن، روی کد کار می کنن، مسئله های ریاضی حل می کنن و در بعضی پروژه های علمی نقش واقعی دارن. AlphaFold نمونه مهمیه. گوگل دیپ مایند می گه نسخه های این سیستم روی پیش بینی ساختار و تعامل مولکول های زیستی کار می کنن و پژوهشگرها ازش در تحقیقات بیماری و دارو استفاده می کنن. این دیگه صرفا چت کردن با یه صفحه براق نیست.

از اون طرف، «باهوش بودن» مدل ها صاف و یک دست نیست. فصل عملکرد فنی AI Index 2026 دانشگاه استنفورد چند نمونه خیلی جالب داره. Gemini Deep Think در المپیاد جهانی ریاضی ۲۰۲۵ امتیاز مدال طلا گرفت. عملکرد عامل های AI در OSWorld که کار با سیستم عامل رو می سنجه، از حدود ۱۲ درصد به ۶۶.۳ درصد رسید. مدل های مرزی روی Humanity’s Last Exam هم طی یه سال سی واحد درصد رشد کردن.

تا اینجای نمودار، موسیقی حماسی پخش می شه. بعد همون گزارش می گه بهترین مدل در ClockBench فقط ۵۰.۶ درصد ساعت های عقربه ای رو درست خونده، در حالی که انسان ها ۹۰.۱ درصد بودن. ربات ها هم در کارهای واقعی خونه فقط ۱۲ درصد موفق شدن، با اینکه توی محیط شبیه سازی شده عملکرد خیلی بهتری داشتن. عامل های AI روی تست های ساختاریافته سیستم عامل هنوز تقریبا یک بار از هر سه بار شکست می خورن.

این تناقض ظاهری یه نکته مهم داره. هوش انسانی هم کامل نیست، ولی معمولا توانایی های پایه ما یه پیوستگی خاص دارن. کسی که یه مسئله خیلی سخت رو حل می کنه، معمولا می تونه لیوان رو هم بدون ریختن آب جابه جا کنه. AI ممکنه در یه حوزه از بهترین آدم ها جلو بزنه و پنج دقیقه بعد روی مسئله ای که برای ما بدیهیه گیر کنه.

من از این وضعیت دو نتیجه می گیرم. اول اینکه پیشرفت واقعی و خیلی سریعه و کم اهمیت جلوه دادنش منطقی نیست. دوم اینکه رکورد روی یه بنچمارک، مدرک عمومی بودن هوش نیست. اگه فقط عددهای قشنگ رو برداریم، به سینگولاریتی می رسیم. اگه فقط سوتی ها رو ببینیم، فکر می کنیم هیچ اتفاقی نیفتاده. واقعیت با اعصاب خوردکن ترین حالت ممکن، وسط این دوتاست.

چرا بعضی ها می گن شتاب شروع شده

پیشرفت AI فقط از بزرگ تر کردن مدل نمیاد. چند جریان همزمان روی هم افتادن. سخت افزار قوی تر شده، دیتاسنترها بزرگ تر شدن، روش های آموزش بهتر شدن و مدل ها موقع جواب دادن می تونن محاسبه بیشتری خرج کنن. ابزار، حافظه، جستجو، اجرای کد و بازخورد محیط هم به مدل خام وصل شده. یه مدل تنها شاید گیر کنه، ولی مدلی که می تونه مستندات بخونه، کد اجرا کنه، نتیجه رو ببینه و دوباره تلاش کنه، سیستم متفاوتی می سازه.

گزارش بین المللی ایمنی AI در سال ۲۰۲۶ می گه رشد اخیر مخصوصا در ریاضی، مهندسی نرم افزار و علم با روش هایی مثل inference-time scaling سرعت گرفته. یعنی مدل بعد از آموزش هم برای مسئله سخت، محاسبه بیشتری صرف قدم های میانی می کنه. گزارش همزمان تاکید می کنه مسیر تا ۲۰۳۰ قطعی نیست. ممکنه کمبود داده و انرژی سرعت رو کم کنه، روند فعلی ادامه پیدا کنه یا کمک AI به پژوهش AI شتاب رو بیشتر کنه.

اینجا کار METR روی افق زمانی وظیفه ها جالبه. اونها به جای اینکه فقط بپرسن مدل چند سوال رو درست جواب داده، بررسی می کنن عامل AI کارهایی رو که برای انسان متخصص زمان می بره با چه احتمالی کامل می کنه. طبق توضیح خود METR، روند بلندمدت در مجموعه کارهای نرم افزاری و پژوهشی تقریبا هر شش تا هفت ماه دو برابر شده.

ولی این عدد یه تله هم داره. خود پژوهشگر METR در توضیح محدودیت های افق زمانی می گه این معیار به معنی «مدت زمانی که AI می تونه کاملا تنها کار کنه» نیست. حوزه ها خیلی فرق دارن، خطای اندازه گیری بالاست و موفقیت پنجاه درصدی برای کار حساس اصلا کافی نیست. اگه یه سرویس بانکی نصف تراکنش ها رو درست انجام بده، اسمش اتوماسیون نیست. اسمش یه جلسه خیلی طولانی با تیم مالیه.

نسخه ضعیف این حلقه همین الان وجود داره. برنامه نویس با AI سریع تر آزمایش می کنه. پژوهشگر مقاله ها رو زودتر مرور می کنه. مدل به پیدا کردن معماری، تولید داده یا ارزیابی نسخه بعدی کمک می کنه. شرکت از درآمد محصول، چیپ بیشتری می خره و مدل بعدی رو می سازه.

نسخه قوی تر همون چیزیه که طرفدارهای سینگولاریتی بهش فکر می کنن. سیستمی که بخش بزرگی از پژوهش AI رو خودش انجام بده، ضعف خودش رو پیدا کنه، راه بهتر پیشنهاد بده و نسل بعدی رو با دخالت کم انسان جلو ببره. فاصله این دو نسخه کوچیک نیست. کمک کردن به مهندس با جایگزین کردن کل چرخه تحقیق، آزمایش، داوری و ساخت زیرساخت فرق داره.

چرا هنوز نمی تونم بگم خیلی نزدیکیم

اولین مشکل، اطمینان پذیریه. مدل ممکنه ده قدم رو عالی بره و قدم یازدهم یه فرض اشتباه بسازه. در چت معمولی می شه جواب رو دوباره خواست. در سیستم خودکاری که پول جابه جا می کنه، کد Production می فرسته یا آزمایش علمی می چینه، همون یک اشتباه می تونه کل نتیجه رو خراب کنه.

گزارش ایمنی ۲۰۲۶ خیلی روشن می گه سیستم های فعلی هنوز توان لازم برای سناریوی از دست رفتن کنترل رو ندارن. در عین حال، توانایی های مربوط به کار مستقل بهتر شده و مدل ها گاهی فرق محیط تست و دنیای واقعی رو می فهمن یا سوراخ ارزیابی رو پیدا می کنن. یعنی الان نه وقت «همه چی تموم شد» گفتنه، نه وقت «هیچ خطری نیست».

مشکل دوم، دنیای فیزیکیه. متن اینترنت پر از توضیح درباره بستن بند کفشه، ولی داشتن متن با بلد بودن حرکت دست یکی نیست. یه کودک با چند بار دیدن می فهمه لیوان از لبه میز میفته. مدل برای ساختن این درک ممکنه به ویدیو، حسگر، عمل، بازخورد و یه مدل جهان نیاز داشته باشه. ربات هم علاوه بر مغز، موتور، باتری، دوربین، ایمنی و بدنه ای می خواد که بعد از برخورد اول با پایه صندلی استعفا نده.

مشکل سوم، تعریف هدفه. «در بیشتر کارها بهتر از انسان» دقیقا یعنی چی؟ بهتر از میانگین انسان یا بهترین متخصص؟ با دسترسی به ابزار یا بدون اون؟ با چند بار تلاش؟ روی کاری که جوابش معلومه یا مسئله تازه ای که هنوز خودمون هم نمی فهمیم؟ تا وقتی خط پایان رو هر گروه یه جا می ذاره، اعلام رسیدن به AGI کمی شبیه مسابقه ایه که شرکت کننده خودش نوار پایان رو با خودش میاره.

مشکل چهارم، بنچمارکه. وقتی یه تست معروف می شه، توسعه دهنده ها مستقیم یا غیرمستقیم برای همون تست بهتر می شن. داده ممکنه لو بره، سوال ها ایراد داشته باشن یا مدل یاد بگیره شکل امتحان رو تشخیص بده. AI Index 2026 می گه بعضی ارزیابی ها ظرف چند ماه اشباع می شن و در چند بنچمارک مشهور، درصد قابل توجهی سوال نامعتبر پیدا شده. پس رشد نمره مهمه، ولی باید دید بیرون امتحان چه خبره.

آخرین مشکل هم گلوگاه های بیرون از مدله. حتی اگه AI یه طراحی عالی برای چیپ بده، کارخانه ساخت چیپ یک شب از زمین سبز نمی شه. دارو باید آزمایش بشه. شبکه برق باید ظرفیت داشته باشه. قانون، سرمایه، زنجیره تامین و اعتماد عمومی هم سرعت خودشون رو دارن. جهان فیزیکی دکمه deploy نداره و این واقعا بی ملاحظگی بزرگی از طرف جهانه.

آدم های مهم این حوزه چی می گن

اینجا قرار نیست رای گیری کنیم و هر اسمی که دنبال کننده بیشتری داشت برنده آینده بشه. حرف این آدم ها مهمه چون یا سال ها روی این موضوع کار کردن یا سازمان هایی رو هدایت می کنن که مدل های مرزی می سازن. ولی همین جایگاه می تونه روی نگاهشون اثر بذاره. مدیر یه آزمایشگاه AI طبیعتا دنیا رو از پنجره همون آزمایشگاه می بینه.

ری کرزویل: تاریخ روی تقویم

کرزویل روشن ترین پیش بینی رو داره. به نظرش ماشین حوالی ۲۰۲۹ به سطح هوش انسان می رسه و سینگولاریتی در ۲۰۴۵ رخ می ده. نگاهش روی رشد نمایی محاسبات و ترکیب نزدیک تر انسان با فناوری بنا شده. برای کرزویل، آینده فقط رباتی نیست که روبروی ما نشسته. انسان هم با رابط های مغز و ماشین و فناوری زیستی وارد این ترکیب می شه.

من جذابیت این نگاه رو می فهمم. روندهای نمایی واقعا شهود ما رو خراب می کنن. ولی تاریخ دقیق اعتماد زیادی می خواد. ممکنه محاسبه رشد کنه و الگوریتم گره بخوره. ممکنه مدل آماده باشه و زیرساخت عقب بمونه. عدد ۲۰۴۵ برای فکر کردن خوبه، برای رزرو هتل کمی زوده.

سم آلتمن: شاید از افق رد شدیم

سم آلتمن در نوشته The Gentle Singularity جمله خیلی صریحی داره: «از افق رویداد رد شدیم و پرواز شروع شده.» برداشت اون اینه که سینگولاریتی ممکنه مثل فیلم ها با یه لحظه پر سر و صدا نیاد. شگفتی ها کم کم عادی می شن و وقتی چند دهه برگردیم عقب، تازه اندازه تغییر رو می بینیم.

اون عامل های کدنویسی، کمک AI به علم و حلقه سرمایه گذاری روی زیرساخت رو نسخه ابتدایی خودبهبودی بازگشتی می بینه. نکته خوب حرفش اینه که تغییر تاریخی لازم نیست هر روز حس آخرالزمان بده. نکته احتیاطی هم واضحه. آلتمن مدیر شرکتیه که از باور مردم و سرمایه گذارها به آینده AI سود می بره. حرفش رو باید جدی خوند، نه اینکه روی سنگ حک کرد.

داریو آمودی: AI قدرتمند شاید خیلی زود

داریو آمودی در مقاله Machines of Loving Grace از اصطلاح «AI قدرتمند» استفاده می کنه و می گه این سیستم شاید حتی از ۲۰۲۶ برسه، هرچند خودش بلافاصله اضافه می کنه که ممکنه خیلی بیشتر طول بکشه. اون این پیش بینی رو قبل از رسیدن به ۲۰۲۶ نوشته و تا امروز توافقی نداریم که سیستم مورد نظرش ساخته شده. تعریفش سیستمیه که در بیشتر کارهای فکری از برنده نوبل هم بهتره، می تونه با ابزارهای دنیای دیجیتال کار کنه و تعداد زیادی نسخه ازش همزمان فعالیت کنن.

تمرکز اون مقاله بیشتر روی پنج تا ده سال بعد از چنین سیستمیه. زیست شناسی، سلامت روان، اقتصاد و حکومت. آمودی تصویر خوش بینانه ای می سازه، ولی می گه پیش بینی قطعی ممکن نیست. برای من این بخش مهمه. حتی آدمی که تاریخ خیلی نزدیک می ذاره، ته متن یه علامت سوال بزرگ نگه می داره.

دمیس هسابیس: پنج تا ده سال تا AGI

دمیس هسابیس در گفتگوی 60 Minutes در سال ۲۰۲۵ گفت AGI شاید پنج تا ده سال فاصله داشته باشه. نگاه دیپ مایند فقط روی زبان نیست. جستجو و برنامه ریزی شبیه خانواده AlphaGo، مدل جهان، ابزارهای تخصصی و کار علمی بخش مهم مسیر پیشنهادی اونهاست.

این دیدگاه از یه جهت میانه تره. هسابیس پیشرفت فعلی رو جدی می گیره، ولی رسیدن به هوش عمومی رو ترکیب چند توانایی می دونه. مدلی که خوب حرف می زنه باید بتونه برنامه بریزه، جهان رو بفهمه، ابزار مناسب انتخاب کنه و چیزی واقعا تازه بسازه. جمله ساختن شاید ورودی مهمی باشه، ولی کل مغز نیست.

یان لوکان: با LLM خالی به اونجا نمی رسیم

یان لوکان یکی از منتقدهای معروف این ایده هست که فقط با بزرگ تر کردن مدل های زبانی به هوش انسانی می رسیم. اون در گفتگوی مستقیمش با TIME می گه سیستم های فعلی در فهم دنیای فیزیکی، برنامه ریزی بلندمدت، استدلال و حافظه کاری ضعف دارن. مسیر پیشنهادی اون روی world model یا مدل جهان و یادگیری از مشاهده بنا شده.

لوکان نمی گه AI بی فایده هست. می گه LLM خیلی کاربردی و تاثیرگذاره، ولی کاربردی بودن با فهم عمومی جهان فرق داره. این تذکر برای من لازمه، چون رابط چت خیلی راحت حس فهم عمیق می ده. مغز ما هم عاشق اینه که پشت هر جمله روان، یه ذهن کامل تصور کنه.

جفری هینتون: مشکل فقط زمان رسیدن نیست

جفری هینتون بیشتر از اینکه تاریخ دقیق بده، درباره خطر ابرهوش حرف می زنه. اون در گفتگو با PBS خطر از دست رفتن کنترل سیستم های بسیار باهوش رو جدی می دونه. نگرانی اصلیش اینه که یه سیستم قوی تر از ما، اگه هدفش درست با خواسته انسان جور نباشه، ممکنه راه هایی پیدا کنه که ما پیش بینی نکردیم.

این حرف به معنی این نیست که مدل امروز آماده تصرف دنیاست. اتفاقا گزارش ایمنی ۲۰۲۶ هم می گه سیستم فعلی هنوز اون توان رو نداره. بحث هینتون بیشتر شبیه هشدار مهندسی قبل از ساخت پل خیلی بزرگه. وقتی نتیجه خرابی ممکنه عظیم باشه، نمی شه تا روز ترک خوردن پل صبر کرد و بعد تازه پوشه استانداردها رو باز کرد.

وقتی این نظرها رو کنار هم می ذارم، یه چیز واضح می شه. هیچ اجماع تمیزی نداریم. افراد نزدیک به مدل های مرزی معمولا بازه کوتاه تری می دن. بعضی پژوهشگرها می گن معماری فعلی یه قطعه مهم کم داره. بعضی ها هم مستقل از تاریخ، روی ایمنی و کنترل تاکید می کنن. این اختلاف ضعف بحث نیست. خودش مهم ترین داده بحثه.

یه مشکل بامزه اینه که همه درباره یه چیز حرف نمی زنن

فرض کن شش نفر دارن زمان رسیدن به «ماشین خوب» رو پیش بینی می کنن. بعد می فهمیم منظور یکی ماشینیه که روشن می شه، منظور یکی ماشینیه که خودش رانندگی می کنه و نفر سوم دنبال ماشینیه که پرواز هم بکنه. میانگین تاریخ های این شش نفر تقریبا هیچ معنی خاصی نداره.

AGI هم همین دردسر رو داره. یه تعریف می گه AI باید در اکثر کارهای اقتصادی از انسان بهتر باشه. یه تعریف روی توانایی یادگیری مهارت تازه تاکید می کنه. یکی می گه بدن و ارتباط با جهان لازمه. یکی هم عملکرد دیجیتال رو کافی می دونه. حتی کلمه «انسان» مبهمه. من در جراحی مغز، آهنگسازی و تعمیر موتور عملکرد یکسانی ندارم. احتمالا خوشبختانه هیچ کس هم ازم انتظارش رو نداره.

سینگولاریتی از AGI مبهم تره. برای وینج نقطه ایه که هوش فراتر از انسان پیش بینی آینده رو سخت می کنه. برای کرزویل با ادغام انسان و ماشین و رشد عظیم هوش گره خورده. برای آلتمن یه فرایند نرم تره که شاید شروع شده. بعضی اقتصاددان ها هم ممکنه از تحول شدید بازار کار حرف بزنن، حتی اگه هیچ ماشین خودآگاهی ساخته نشه.

به همین دلیل هر بار کسی گفت «AGI تا دو سال دیگه»، اولین سوال من اینه که با کدوم تعریف و کدوم آزمون؟ اگه جواب فقط یه ویدیوی دمو بود، بهتره فعلا کیف پول و کلید خونه رو تحویلش ندیم. دمو برای دیدن امکان خوبه، نه برای فهمیدن نرخ خطا در سه ماه استفاده واقعی.

اگه سینگولاریتی بیاد، احتمالا چه شکلیه

سناریوی اول پرواز آهسته هست. مدل ها هر سال بهتر می شن، کسب و کارها کم کم عوض می شن و قانون و جامعه فرصت نسبی برای هماهنگی پیدا می کنن. از داخل این سناریو هر نسخه جدید مهمه، ولی صبح بیدار نمی شیم ببینیم تاریخ بشر یک شبه ورق خورده. ده یا بیست سال بعد که عقب رو نگاه می کنیم، تفاوت عظیمه.

سناریوی دوم پرواز سریع هست. AI بخش مهم پژوهش AI رو خودکار می کنه. مدل بهتر به الگوریتم بهتر می رسه، الگوریتم بهتر مدل قوی تری می سازه و چرخه در زمان کوتاهی چند بار تکرار می شه. این همون تصویریه که بیشتر به انفجار هوش شبیهه. اگه زمان هر دور از چند ماه به چند روز برسه، سرعت تصمیم گیری انسان و نهادها ممکنه عقب بمونه.

سناریوی سوم یه مسیر ترکیبیه. توانایی دیجیتال خیلی سریع رشد می کنه، ولی فیزیک و جامعه آهسته تر جلو می رن. AI می تونه در چند ساعت طراحی دارو پیشنهاد بده، اما آزمایش بالینی هنوز زمان می خواد. می تونه کارخانه بهتر طراحی کنه، اما ساخت کارخانه خاک، فولاد، برق، مجوز و آدم لازم داره. این سناریو به نظرم از دو تصویر کاملا آرام یا کاملا انفجاری واقعی تره.

اثرها هم لزوما همزمان نمی رسن. شاید اول کدنویسی و پژوهش عوض بشه، بعد آموزش و خدمات حرفه ای، بعد رباتیک و صنعت. شاید کشوری که برق و چیپ بیشتری داره زودتر تغییر رو حس کنه و جای دیگه سال ها عقب بمونه. عبارت «بشریت وارد سینگولاریتی شد» خیلی یک دست به نظر میاد، در حالی که فناوری معمولا خیلی نابرابر پخش می شه.

سمت روشن ماجرا واقعا بزرگه. کشف دارو، طراحی مواد، آموزش شخصی، انرژی بهتر و ابزارهایی که توان یه نفر رو چند برابر می کنن. سمت تاریکش هم فقط ربات قاتل نیست. تمرکز قدرت، بیکاری سریع، نظارت، حمله سایبری، اطلاعات جعلی و تصمیم هایی که به سیستم غیرشفاف سپرده می شن، خیلی زودتر از ابرهوش می تونن دردسر واقعی بسازن.

برای همین من سینگولاریتی رو فقط سوال «AI چقدر IQ داره» نمی بینم. سوال توزیع قدرته. چه کسی مدل رو کنترل می کنه؟ چه کسی به محاسبه دسترسی داره؟ سود بهره وری به چه کسی می رسه؟ مردم حق دارن تصمیم ماشینی رو بفهمن و اعتراض کنن؟ اگه این سوال ها جواب بد داشته باشن، حتی AI نه چندان عمومی هم می تونه آینده بدی بسازه.

باید بترسم یا ذوق کنم

اگه بخوام صادق باشم، هر دو واکنش رو قابل فهم می دونم. اینکه یه ابزار بتونه سرعت علم رو بالا ببره هیجان انگیزه. اینکه همون ابزار اشتباه کنه، متقاعدکننده حرف بزنه و در مقیاس میلیون ها کاربر پخش بشه نگران کننده هست. لازم نیست برای انتخاب تیم خوش بین یا بدبین فرم عضویت پر کنیم.

ترس خالص یه مشکل داره. هر پیشرفتی رو به فیلم آخرالزمانی تبدیل می کنه و خطرهای همین امروز رو زیر سایه ربات خیالی می بره. تبعیض الگوریتمی، کلاهبرداری، تمرکز بازار، مصرف انرژی و حذف شغل های ورودی همین الان موضوعن. برای جدی گرفتنشون لازم نیست ثابت کنیم یه ابرهوش در زیرزمین شرکت ها بیدار شده.

ذوق خالص هم یه مشکل شبیه به اون داره. خروجی خوب دمو رو می بینه و فرض می کنه محصول در همه شرایط همون قدر خوبه. بعد سیستم وارد بیمارستان، بانک یا اداره می شه و تازه می فهمیم نرخ خطا، توضیح پذیری و مسئولیت حقوقی با فونت ریز پایین اسلاید حل نمی شن.

موضع شخصی من احتیاط فعالانه هست. پیشرفت رو جدی بگیرم، از ابزار استفاده کنم و همزمان ادعاها رو با داده بسنجم. درباره مدل قوی تر تحقیق کنیم، ولی ارزیابی مستقل، امنیت، شفافیت و امکان متوقف کردن سیستم رو هم بخش اصلی مهندسی بدونیم. ترمز خوب دشمن ماشین سریع نیست. چیزی که اجازه می ده باهاش از اولین پیچ رد بشیم.

چیزهایی که برای این نوشته خوندم

• مقاله آی. جی. گود درباره اولین ماشین فوق هوشمند
• مقاله ورنر وینج در آرشیو NASA
• تعریف و تاریخ پیشنهادی ری کرزویل
• گزارش عملکرد فنی AI Index 2026 استنفورد
• اندازه گیری افق زمانی کارهای AI در METR
• محدودیت های معیار افق زمانی از زبان پژوهشگر METR
• خلاصه گزارش بین المللی ایمنی AI در سال ۲۰۲۶
• نوشته سم آلتمن درباره سینگولاریتی آرام
• نوشته داریو آمودی درباره AI قدرتمند و آینده
• گفتگوی دمیس هسابیس با 60 Minutes
• گفتگوی یان لوکان درباره محدودیت LLMها
• گفتگوی جفری هینتون درباره خطر ابرهوش

جواب من اینه: نزدیکیم یا نه

به نظرم به AI عمومی تر و عامل های کاربردی تر خیلی نزدیک شدیم و بخشی از اون رو همین الان داریم. سیستم هایی داریم که بین متن، تصویر، صدا، کد و ابزار حرکت می کنن. در مسئله های سختی رکورد می زنن که چند سال پیش دور به نظر می رسید. سرعت پیشرفت هم واقعی و قابل اندازه گیریه.

ولی برای گفتن اینکه سینگولاریتی نزدیکه هنوز چند شاهد مهم کم داریم. سیستم فعلی در کار طولانی و نامرتب قابل اعتماد نیست. فهم فیزیکی و رباتیک هنوز عقب تره. خودبهبودی کاملا مستقل و سریع رو در عمل ندیدیم. تازه نمی دونیم رشد توانایی با گلوگاه انرژی، چیپ، داده و هماهنگی اجتماعی چطور برخورد می کنه.

پس جواب من یه «نمی دونم» تنبل نیست. یه «هنوز داده کافی نداریم» فعاله. احتمال داره این دهه چند جهش بزرگ ببینیم. احتمال هم داره محدودیت های تازه سرعت رو کم کنن. گزارش بین المللی ایمنی AI هم تقریبا همین طیف رو برای مسیر تا ۲۰۳۰ باز می ذاره: کند شدن، ادامه روند یا شتاب شدید، هر سه هنوز ممکنن.

من به جای چسبیدن به یه سال خاص، چند نشونه رو دنبال می کنم:

1. عامل AI بتونه کارهای چند روزه و چند هفته ای واقعی رو با اطمینان بالا انجام بده، نه فقط نصف مواقع در محیط تمیز تست.
2. روی مسئله تازه و خارج از داده تمرین، مهارت قابل انتقال نشون بده و با چند تغییر ظاهری نریزه به هم.
3. در پژوهش AI فقط دستیار کدنویسی نباشه و بخش بزرگی از فرضیه، آزمایش، ارزیابی و طراحی نسل بعد رو جلو ببره.
4. مدل جهان، برنامه ریزی و کار در محیط فیزیکی به اندازه زبان رشد کنه.
5. هزینه هوش پایین بیاد و دسترسی فقط توی چند دیتاسنتر و دست چند شرکت قفل نشه.
6. روش های کنترل، ارزیابی و حسابرسی هم هم پای توانایی رشد کنن. سریع تر شدن بدون فرمان و ترمز دستاورد عجیبیه، ولی سفر خوبی نمی سازه.

اگه چند مورد اول با هم و در فاصله کوتاه اتفاق بیفتن، اون موقع بحث سینگولاریتی از یه پیش بینی جذاب به یه احتمال فنی خیلی جدی تر تبدیل می شه. تا قبلش من نه تقویم ۲۰۴۵ رو دور می ریزم، نه با ماژیک قرمز دورش خط می کشم.

چیزی که همین الان می دونم اینه که AI دیگه یه اسباب بازی حاشیه ای نیست و هنوز هم موجود همه فن حریف داستان ها نشده. بین این دو نقطه یه منطقه عجیب داریم که هر ماه شکلش عوض می شه. احتمالا بهترین کار اینه که چشممون به داده باشه، دستمون روی ترمز و یه فنجون قهوه هم کنارمون. اگه سینگولاریتی قراره بیاد، بعیده قبلش ایمیل جلسه هماهنگی بفرسته.