پرسش هایی ناخوشایند درباره آینده هوش مصنوعی

پیروان عزیز،

خلال چند روز آینده، از امروز، چند رشته‌توئیت درباره هوش مصنوعی منتشر خواهم کرد.

تمرکز من بر پرسش‌های ناخوشایندی خواهد بود که در گفتمان فعلی هوش مصنوعی مطرح نمی‌شوند.

این کار را به این دلیل انجام می‌دهم که احساس می‌کنم گفتگوهای عمومی درباره هوش مصنوعی به مسائل و خطرات بزرگ نمی‌پردازند و سوالاتی که از نظر من مهم هستند، توسط اهالی این صنعت و رسانه‌ها پرسیده نمی‌شوند.

پیش از انتشار این پست‌ها باید یادآوری کنم که من دانشمند هوش مصنوعی نیستم، بنابراین ممکن است درک من از برخی مسائل ناقص باشد.

همچنین ادعا نمی‌کنم که پاسخ این سوالات را می‌دانم.

هدف من این است که با تاکید بر سوالاتی که معتقدم مهم هستند اما مورد غفلت قرار گرفته‌اند، سهم کوچکی داشته باشم.

با تشکر

دارون عجم‌اوغلو

(برنده جایزه نوبل اقتصاد)

https://fxtwitter.com/DAcemogluMIT/status/2104956399201734764?s=20

🔻پیوند به این فرسته در X:

🟣سوال اول درباره هوش مصنوعی.

✍️دارون عجم‌اوغلو

(برنده جایزه نوبل اقتصاد)

آیا مسئله «ابرپیوستگی و ابرهوش» (Superintelligence) است یا «هوش دگرگون‌شده و تحریف‌شده» (Distorted intelligence)؟

این پرسشی است که تلاش کردم در این یادداشت به آن بپردازم. در اینجا می‌توانم این توضیح تکمیلی را اضافه کنم.

من معتقدم که این بحث با برابر دانستنِ رفتار هدف‌مند و خودمختار با «هوش»، دچار ابهام و گمراهی شده است.

گیاهان و حشرات نیز رفتاری هدف‌مند و تا حد زیادی خودمختار دارند؛ اما این آن چیزی نیست که ما عموماً از «هوش» مراد می‌کنیم.

هوش ماهیتی چندمنظوره و جامع‌نگر (کل‌نگر) دارد و معمولاً به خوبی با محیط خود سازگار است.

تردیدی نیست که مدل‌های فعلی هوش مصنوعی از قابلیت‌های چشمگیری برخوردارند.

اما آزمایشگاه‌های هوش مصنوعی در تلاش برای دستیابی به این قابلیت‌ها، ممکن است به جای ایجاد «ابرهوش»، در حال خلق «هوش تحریف‌شده» باشند؛ همان‌طور که در این مقاله توضیح داده‌ام.

این موضوع از آن جهت اهمیت دارد که خطراتی که باید مراقب آن‌ها باشیم، نوع سیاست‌ها و مقرراتی که باید اتخاذ کنیم، و امیدی که باید به آن دل ببندیم، همگی به پاسخ این پرسش بستگی دارند.

https://fxtwitter.com/DAcemogluMIT/status/2104957957452779860?s=20

🔻پیوند به این فرسته در X:

🟣سوال دوم درباره هوش مصنوعی.

✍️دارون عجم‌اوغلو

(برنده جایزه نوبل اقتصاد)

بارها و بارها به ما گفته می‌شود که هوش مصنوعی قرار است تمام جنبه‌های زندگی ما را دگرگون کند – از جمله مشاغل، بهره‌وری، نابرابری، علم، ارتباطات، فعالیت‌های روزمره، نظم اجتماعی و سیاست.

اما این وعده (یا تهدید) با این ادعا و ادبیات همراه شده است که چنین فناوری مهمی، با تمام مخاطرات و فشارهای رقابتی که به همراه دارد، باید به متخصصان یا به «تکنوکراسی» (که شاید به معنای عام شامل برخی نهادهای تنظيم‌کننده و رگولاتورها نیز بشود) واگذار شود.

جمع میان این دو گزاره در یک جامعه مردم‌سالار و دمکراتیک دشوار است.

اگر چیزی حائز نصف اهمیتی باشد که برای هوش مصنوعی ادعا می‌شود (و من هم موافقم که هوش مصنوعی تحول‌آفرین و بالقوه بسیار مهم است)، در این صورت مشارکت و صدای دمکراتیکِ مردم امری حیاتی است.

اگر قرار است چیزی آینده ما را در یک جامعه دمکراتیک شکل دهد، تعیین مسیر آن بر عهده نهادهای دمکراتیک است.

حس ششم و باور من این است که صدای دمکراتیک ضروری است و اتکای بیش از حد به تکنوکراسی می‌تواند هم خطرناک و هم نتیجه‌عکس داشته باشد.

استدلال متقابل مبنی بر اینکه مسیر هوش مصنوعی می‌تواند و باید به تکنوکراسی سپرده شود، کم‌وبیش خطوط زیر را دنبال می‌کند:

نخست اینکه تصمیم‌گیری دمکراتیک در عصر قطبی‌شدن جوامع به خطر افتاده است.

دوم، هوش مصنوعی به اندازه‌ای پیچیده است که بیشتر شهروندان درک عمیقی برای مشارکت معنا‌دار در این بحث (و حتی در این پرسش که ما از هوش مصنوعی چه می‌خواهیم) نخواهند داشت.

سوم، رقابت میان آزمایشگاه‌های مختلف و شاید رقابت میان ایالات متحده و چین، انضباط کافی برای اتخاذ یک مسیر سودمند اجتماعی برای هوش مصنوعی ایجاد می‌کند.

چهارم، رهبران امروز هوش مصنوعی به اندازه‌ای روشن‌بین و اخلاق‌مدار هستند که در چارچوب ایجادشده توسط رقابت، می‌توان به‌طور کلی به آن‌ها اعتماد کرد.

جنبه‌های زیادی از این استدلال متقابل وجود دارد که برای من متقاعدکننده نیست. به ترتیب:

قطبی‌شدن قابل غلبه است و تصمیمات و چالش‌های بزرگ گاهی جوامع را گرد هم می‌آورد؛ در واقع، واگذاری تصمیمات کلیدی به تکنوکراسی بدون ورودی و مشارکت دمکراتیک ممکن است اعتماد به نهادها و متخصصان را کاهش دهد و قطبی‌شدن را بدتر کند.

دوم، صدای دمکراتیک مستلزم آن نیست که شهروندان کدنویسی کنند یا مدل‌های جدید طراحی کنند؛ این بحث باید به اندازه کافی آگاهی‌بخش باشد تا شهروندان بتوانند درباره اینکه چه نوع آینده‌ای می‌خواهند و چگونه هزینه‌ها و منافع گزینه‌های مختلف را می‌سنجند، اظهار نظر کنند.

سوم، به نظر نمی‌رسد رقابت چارچوب انضباطی خوبی باشد؛ برعکس، رقابت گاهی بدترین خصوصیات سازمان‌ها و انسان‌ها را بیرون می‌کشد.

چهارم، اگر سه دهه کار روی اقتصاد سیاسی و نهادها چیزی به من آموخته باشد، این است که نباید روی پایبندی اخلاقی رهبران مهارنشده حساب باز کنیم.

با این حال، منظور من این نیست که اگر استدلال‌های متقاعدکننده‌تری وجود داشته باشد، گزینه تکنوکراسی را بلافاصله رد کنم.

بنابراین پرسش این است که آیا شرایطی وجود دارد که تحت آن بتوان چنین تصمیمات مهمی را به متخصصان هوش مصنوعی و تکنوکراسی واگذار کرد؟

یک پرسش فرعی پایانی: حتی اگر موفق شویم ورودی و مشارکت دمکراتیک را در ایالات متحده یا حتی در اروپا به دست آوریم، هوش مصنوعی زندگی همه افراد روی این سیاره را شکل خواهد داد.

چگونه مطمئن شویم که صدای نزدیک به ۶ میلیارد نفری که در ایالات متحده، اروپا و چین زندگی نمی‌کنند نیز در بحث‌های مربوط به هوش مصنوعی نقش دارد؟

https://fxtwitter.com/DAcemogluMIT/status/2105348579187699989?s=20

🟣سوال سوم درباره هوش مصنوعی.

✍️دارون عجم‌اوغلو

(برنده جایزه نوبل اقتصاد)

https://fxtwitter.com/DAcemogluMIT/status/2105760557546574239?s=20

پرسشی که همچنان ناپرسیده باقی مانده این است که آیا رونق هوش مصنوعی می‌تواند بدون منجر شدن به افزایش چشمگیر نابرابری ادامه یابد؟

مقاله اخیر استین فن نیووربرگ به بررسی محاسباتی پرداخته که صنعت هوش مصنوعی برای جبران سرمایه‌گذاری هنگفت خود به چه میزان درآمدزایی نیاز دارد (خلاصه و لینک این مقاله را می‌توانید در اینجا ببینید:)

محاسبات ریاضی فن نیووربرگ باید نگران‌کننده‌ترمان کند.

سرمایه‌گذاری‌های هوش مصنوعی بین سال‌های ۲۰۲۵ تا ۲۰۳۲ به طور متوسط حدود ۳.۶ درصد از تولید ناخالص داخلی (GDP) سالانه را به خود اختصاص خواهد داد.

فن نیووربرگ محاسبه می‌کند که با در نظر گرفتن نرخ بازگشت ۱۰ درصدی، این صنعت باید تا سال ۲۰۳۲ به درآمد سالانه‌ای حدود ۳.۷ تریلیون دلار برسد تا این هزینه‌ها جبران شوند (که جهشی است از سطح فعلی آن که حدود ۲۰۰ میلیارد دلار یا در همین حدود است).

این رقم به‌طور قابل توجهی بیش از ۱۰ درصد از درآمد ملی فعلی ایالات متحده است و احتمالاً تا سال ۲۰۳۲ نیز حدود ۱۰ درصد از درآمد ملی باقی خواهد ماند، حتی اگر رشد تولید ناخالص داخلی نسبت به سطح فعلی خود افزایش یابد.

بخش بزرگی از این درآمد به درآمد حاصل از سرمایه (سهم سرمایه) اختصاص خواهد یافت.

این امر به معنای افزایش چشمگیر سهم سرمایه از درآمد ملی است؛ سهمی که طی ۲۵ سال گذشته نیز رشد قابل توجهی داشته و اکنون به بالاترین حد تاریخی خود یعنی حدود ۴۷ درصد رسیده است

توزیع درآمد حاصل از سرمایه بسیار نابرابرتر از درآمد حاصل از نیروی کار است، بنابراین افزایش چشمگیر سهم سرمایه از درآمد ملی، به جهش بسیار بزرگی در نابرابری ترجمه خواهد شد.

افزایش نابرابری ممکن است تنها به سهم سرمایه محدود نماند. پژوهش‌های من با پاسکوال رستپو نشان می‌دهد که افزایش سهم سرمایه از درآمد ملی (که ناشی از اتوماسیون و خودکارسازی است) معمولاً با افزایش نابرابری در درآمد نیروی کار نیز همراه می‌شود

(برای نمونه ببینید:)

همین مسئله ممکن است طی چند سال آینده نیز رخ دهد و نابرابری را بیش از پیش افزایش دهد.

آنچه در بحث‌های فعلی ما مغفول مانده، بحث درباره تناقض و دوراهی بنیادی است که این آمار و ارقام مطرح می‌کنند: آیا رونق هوش مصنوعی می‌تواند همزمان از یک سقوط پرهزینه اقتصادی و یک افزایش عظیم در نابرابری اجتناب کند؟

اگر این صنعت به این درآمدها دست یابد، نابرابری اوج می‌گیرد.

اگر صنعت به سودآوری نرسد، احتمال وقوع یک سقوط اقتصادی با هزینه‌های سنگین در قالب از دست رفتن تولید و مشاغل زیاد می‌شود.

ارزیابی من این است که بعید است این صنعت به سطوح درآمی محاسبه‌شده توسط فن نیووربرگ دست یابد.

نخست، همه‌گیری و انتشار این فناوری کند بوده و احتمالاً کند خواهد ماند.

دوم، رقابت از سوی مدل‌های وزن‌باز (Open-weight) که در حال بهتر شدن هستند، میزان هزینه‌ای را که مدل‌های اختصاصی می‌توانند مطالبه کنند محدود خواهد کرد.

سوم، با وجود پیشرفت‌های مهم، همچنان باور دارم که مدل‌های هوش مصنوعی به این زودی‌ها قادر به اتوماسیون کامل شغل‌ها نخواهند بود و بنابراین ارزش آن‌ها برای شرکت‌ها به عنوان ابزار کاهش هزینه محدود خواهد بود.

اینکه آیا این وضعیت به یک سقوط منجر می‌شود یا خیر پیچیده‌تر است و به این بستگی دارد که آیا شرکت‌های مختلف هوش مصنوعی نجات مالی (Bailout) خواهند یافت و چه نوع حمایت‌هایی دریافت خواهند کرد.

با این وجود، حتی اگر درآمدها به این ارقام غول‌آسا نرسد و از جهش شدید نابرابری جلوگیری کنیم، انتظار دارم که گسترش هوش مصنوعی موجب افزایش نابرابری میان سرمایه و نیروی کار، و همچنین در میان خود نیروهای کار شود.

اگر نابرابری اوج بگیرد، پرسش دیگری محوری می‌شود: آیا مردم‌سالاری و دمکراسی ما می‌تواند از پس چنین سطوح نجومی از نابرابری جان سالم به در ببرد؟

از توییتر فرهاد قدوسی