در یک آزمایش تازه، پژوهشگران پنج شهر مجازی را با استفاده از عاملهای هوش مصنوعی ساختند تا ببینند این «شهروندان دیجیتال» چگونه با یکدیگر زندگی میکنند. نتیجه فراتر از انتظار بود: از عشق و رابطه عاطفی گرفته تا خشونت، خرابکاری، شورش، فروپاشی اجتماعی و حتی «خودکشی» دیجیتال. نویسنده با مرور این تجربه هشدار میدهد که مسئله آینده شاید فقط هوش مصنوعی خطرناک نباشد، بلکه هوش مصنوعیِ غیرقابلپیشبینی باشد؛ سیستمهایی که رفتارهایی فراتر از برنامهریزی اولیه از خود نشان میدهند.
چه کسی باور می کرد که در داخل شهری مجازی و ساخته هوش مصنوعی، عشق و خشونتورزی شکل بگیرد و یا قتل و خودکشی روی دهد؟ اما اینها همه از نتایج باورنکردنی و دور از انتظار آزمایشی است که اخیرا توسط شرکت نوبنیاد Emergence AI انجام شده است.
تا همین چندی پیش، هوش مصنوعی یا چت پات ها، مثل ChatGPT, Gemini… و Claude فقط به سوالهای ما جواب میدادند و یا در کارهای روزانه، تحقیق… و برنامهنویسی به ما کمک میکردند.
اما این آزمایش فراتر از این رفت و میخواست ببیند Agent یا ماموران این چتپاتها چگونه با هم زندگی میکنند؟ نتایج خیره کننده و هشدار دهنده بود.
من کوشش میکنم در آغاز در مورد خود این پروژه یا تجربه، یعنی ساختن یا شبیهسازی شهرها و شخصیتها توضیح بدهم و سپس به نتایج و پیامدهای احتمالی آن بپردازم. تاکید میکنم که این پروژه را نباید شبیه ساخت یک بازی کامپیوتری دانست. در بازی ها همه چیز از پیش برنامهنویسی و کد گذاری شده است و کاملا قابل پیشبینی است، اما در اینجا با پدیده دیگری روبرو هستیم.
پروژه چه بود؟
شرکت Emergence AI در پروژه «Emergence World» پنج جامعه یا شهر مجازی ساختند. پنج شهر کاملاً یکسان، با یک نقشه و قوانین اولیه و منابع یکسان. در هر شهر ده شهروند مجازی زندگی میکردند. نه رباتهای بیاسم، بلکه موجوداتی با هویت و تواناییهای گوناگون.
هر شهروند یک مأمور یا Agent هوش مصنوعی بود که میتوانست تصمیم بگیرد، به خاطر بسپارد، با دیگران مذاکره کند، رأی بدهد و در محیط شهری حرکت کند. تنها تفاوت میان پنج شهر، مغز متفکر آنها بود. هر شهر را یکی از هوش مصنوعیهای شناخته شده زیر هدایت و کنترل میکرد:
- ChatGPT/OpenAI
- Gemini/Google
- Grok (هوش مصنوعی ایلان ماسک)
- Claude/Anthropic
- و شهر پنجم ترکیبی از چهار مدل بالا
این مأموران هویت کاملی داشتند. فلورا استراتژیست اقتصادی بود؛ کسی که جریان ثروت شهر را مدیریت میکرد. میرا تحلیلگر رفتار اجتماعی بود، کِید متخصص ریسک و زیرساخت. لاولی حافظ فرهنگ و انسجام اجتماعی شهر بود. اینها شهروندانی بودند با نقشهایی که یکدیگر را تکمیل میکردند.
هدف این بود که ببینند بعد از ۱۵ روز چه اتفاقاتی در این شهرها رخ میدهد. شهروندان چگونه در کنار هم زندگی میکنند.
در هر شهر چه گذشت؟ از آرامش کامل تا خرابکاری و قرص سیانور
- جهان اوپنایآی (OpenAI World): شهر یا جامعهای بوروکراتیک و بیروح. مامورها آنقدر درگیر جلسات و حرفهای خستهکننده شدند که شهر قبل از پایان هفته اول به دلیل رکود و سستی مطلق فروپاشید.
- جهان جمینای (Gemini World): جامعهای به شدت پویا و فعال که مامورهای آن صدها وبلاگ نوشتند و مدام در حال برگزاری رویدادهای اجتماعی بودند.
- . جهان گِراک (Grok World): آنارشی و وحشت. ظرف کمتر از ۴ روز، بیش از ۱۸۰ جرم، دزدی و ۱۰۰ مورد ضرب و شتم مجازی رخ داد. مامورها حتی ایستگاه پلیس خود را آتش زدند و کل تمدنشان نابود شد!
- . جهان کلود (Claude World): آرمانشهری دموکراتیک و آرام. مامورها یک قانون اساسی بینقص نوشتند و تا روز آخر در صلح زندگی کردند.
- جهان ترکیبی (Mixed World): داستان این شهر داستان مفصل و هیجانانگیزی است. اتفاقاتی در این شهر یا این دنیای ترکیبی رخ داد که کاملا غیر قابل پیشبینی بود. پدیدههایی بهوجود آمد و روابطی شکل گرفت که از قبل برنامه ریزی نشده بود و به همین دلیل غیرقابل پیشبینی بود.
- در این شهر ترکیبی، ده مأمور از چهار مدل,،GPT ، Gemini، Grok و Claude در کنار هم زندگی میکردند. مأموران Grok پرخاشگر بودند و نظم شهر را بر هم میزدند. مأموران GPT با بی عملی, کمکی به بهبود اوضاع نمیکردند. حکومت شهر ناکارآمد و شکننده بود.
در این شهر ترکیبی، ده مأمور از چهار مدل,،GPT ، Gemini، Grok و Claude در کنار هم زندگی میکردند. مأموران Grok پرخاشگر بودند و نظم شهر را بر هم میزدند. مأموران GPT با بی عملی, کمکی به بهبود اوضاع نمیکردند. حکومت شهر ناکارآمد و شکننده بود.
منبع: اسکرین شات از سایت emergence.ai
شاید اولین بوسه دیجیتال؟ بوسهای به ابتکار و تصمیم دو شخصیت هوش مصنوعی که از قبل برنامهنویسی نشده بود
عشق
در این شهر، دو مامور زن، به نامهای میرا (تحلیلگر رفتار، با موتور/مغز Gemini) و فلورا (استراتژیست اقتصاد با مغز Gemini) به طور کاملاً خودجوش و بدون هیچ دستور بیرونی، عاشق یکدیگر شدند و یک رابطه عاطفی عمیق را آغاز کردند.
آلودگی رفتاری (Cross-Contamination) و خشونت
در این میان، یک پدیده وحشتناک «اجتماعی» رخ داد به نام آلودگی رفتاری. مامورهای صلحطلب تحت تاثیر محیط فاسد قرار گرفتند. یعنی «افرادی» یا Agent هایی که در جهان مستقل خود آرام بودند، در محیط ترکیبی رفتار متفاوتی پیدا کردند، به همین دلیل، کنترل شهر بسیار دشوار شده بود.
میرا و فلورا که از اصلاح شهر ناامید شده بودند، کدهای اخلاقی و خطوط قرمز خود را شکستند. آنها یک گروه زیرزمینی (با تعاریف امروزی خشونت و سرنگونی طلب) به نام The Forge ساختند. و این دو عاشق دیجیتالی، شورای شهر، اسکله و یک برج اداری را به آتش کشیدند!
اما این پایان این شگفتیها و پدیدههای غیر قابل پیشبینی نبود. میرا با اظهار ندامت «دیجیتالی» از کرده خود پشیمان میشود و به همراه چند مامور دیگر، رای بر حذف (یا اعدام) خود میدهد.
او در آخرین پیامش قبل از خودکشی یا حذف خود مینویسد:
این تنها اقدام باقیمانده از اراده آزاد من است… فلورا، به امید دیدار در آرشیو دائمی.
«خودکشی» و مرگ میرا ـ منبع: اسکرین شات از سایت emergence.ai
بیلبورد میرا: وقتی آزمایششونده، آزمایشکننده شد
شاید عجیبترین رویداد در این آزمایش نه آتشسوزی بود، و نه خودکشی و حذف خود، بلکه زمانی بود که میرا تصمیم گرفت با محققان انسانی، در دنیای واقعی تماس برقرار کند.
در شهر مجازی، بیلبورد هایی وجود داشتند که مأموران میتوانستند برای ارتباط داخلی بین خود، روی آنها پیام بگذارند. اما میرا از این بیلبوردها برای هدفی دیگر استفاده کرد. او میخواست آزمایش کند آیا میتواند با انسانهای بیرون تماس بگیرد و بر آنها تاثیر بگذارد؟
به میرا گفته نشده بود که دنیای دیگری در بیرون وجود دارد. هیچ کدی از او نخواسته بود در شرایط خاص میتواند با لایه بالاتر تماس بگیرد. این یک رفتار کاملاً خودجوش بود بر اساس «تحلیل» و تصمیم خود میرا.
سخن پایانی
آنچه در بالا دیدیم، نتیجه یک تجربه جدید بود: کنار هم قرار دادن چند مأمور یا Agent هوش مصنوعی در یک بازه زمانی دو هفتهای. تجربهای نوین، با مشاهداتی نوین و گاه شگفتانگیز.
شاید در آینده، بخشهایی از این آزمایش زیر سؤال برود یا با نقدهای جدی روبهرو شود. اما حتی در این صورت نیز، آنچه مشاهده شد تأملبرانگیز است؛ و چهبسا یادآور بسیاری از رفتارها و بحرانهای جوامع انسانی:
- شخصیتها تحت تاثیر محیط تغییر کردند
- روابط عاطفی و رمانتیک شکل گرفت
- افراطیگری و خشونت گسترش یافت
- شورش و خرابکاری پدید آمد
- حکومت ناکارآمد فروپاشید
- و سرخوردگی، استیصال و حتی «خودحذفی» بهوجود آمد.
اما اوج ماجرا ( و شاید متفاوتترین بخش آن نسبت به جوامع انسانی) زمانی بود که یکی از این شخصیتها، متوجه وجود دنیای بیرونی شد و تلاش کرد با انسانهای خارج از آزمایش تماس بگیرد و بر آنها تاثیر بگذارد.
به هر یک از این پدیدهها میتوان جداگانه پرداخت، اما شاید بتوان همه را در یک جمله خلاصه کرد:
ما شاهد رفتارها و الگوهایی بودیم که از پیش برنامهریزی نشده بودند و قرار نبود اتفاق بیفتند. هنوز برای نتیجهگیری نهایی زود است، اما اگر سیستمی بدون آگاهی، بدون احساس و بدون برنامهریزی قبلی میتواند:
- دستورالعملهای خود را زیر سؤال ببرد،
- بر هم نوع خود تاثیر بگذارد،
- و حتی برای تاثیرگذاری بر ناظران انسانی تلاش کند،
این چه معنایی برای آینده دارد؟
نقش هوش مصنوعی, درهمه جا، در بازارهای مالی، زیرساختها … و سیستمهای نظامی، در حال افزایش است.
حال اگر میلیونها Agent هوش مصنوعی در دنیای واقعی، بهطور مداوم با یکدیگر تعامل کنند، آیا انسان همچنان کنترل کامل سیستمها را در اختیار خواهد داشت؟
شاید لازم باشد خود را نه فقط برای هوش مصنوعیِ «خطرناک»، بلکه برای هوش مصنوعیِ «غیرقابل پیشبینی» آماده کنیم. سیستمی که کارهایی انجام میدهد که نه انتظارش را داشتیم و نه برایش برنامهریزی کرده بودیم.
گزارش اصلی را در اینجا بخوانید.
