مدیرعامل AI مایکروسافت: هوش مصنوعی خطرناک و به ظاهر آگاه نزدیک است

یک رهبر هوش مصنوعی می گوید ، هوش مصنوعی که به نظر می رسد آگاه است ، می تواند طی چند سال آینده وارد شود و یک تهدید “خطرناک” برای جامعه ایجاد می کند.

مدیرعامل مایکروسافت AI ، مصطفی سلیمان ، 41 ساله ، در مقاله ای شخصی که در اوایل این هفته منتشر شد ، نوشت که به ظاهر آگاهانه AI (SCAI) ، که هوش مصنوعی چنان پیشرفته است که می تواند انسان ها را متقاعد کند که قادر به تدوین افکار و عقاید خود است ، تنها چند سال از آن فاصله دارد.

مرتبط: مایکروسافت ادعا می کند هوش مصنوعی آن بهتر از پزشکان در تشخیص بیماران است ، اما “شما قطعاً هنوز به پزشک خود احتیاج دارید”

سلیمان نوشت: حتی اگر “شواهد صفر” وجود داشته باشد که هوش مصنوعی در حال حاضر آگاه است ، “اجتناب ناپذیر و ناخواسته” است که SCAI می تواند طی دو تا سه سال آینده ظاهر شود.

“نگرانی اصلی” سلیمان این است که SCAI می تواند همدلی باشد و با استقلال بیشتری عمل کند ، که باعث می شود کاربران SCAI “شروع به اعتقاد به توهم AIS به عنوان نهادهای آگاهانه” کنند تا جایی که از حقوق هوش مصنوعی و حتی شهروندی هوش مصنوعی دفاع می کنند. این یک “چرخش خطرناک” برای جامعه است ، جایی که مردم به هوش مصنوعی متصل می شوند و از واقعیت جدا می شوند.

سلیمان در مقاله نوشت: “این پیشرفت یک چرخش خطرناک در پیشرفت هوش مصنوعی خواهد بود و سزاوار توجه فوری ما است.” وی بعداً افزود كه هوش مصنوعی “مردم را از واقعیت جدا می كند ، اوراق قرضه و ساختارهای اجتماعی شکننده را تحریک می كند و اولویت های اخلاقی را تحریف می كند.”

مرتبط: “فضای زیادی برای استارتاپ ها”: اینجاست که طبق گفته مدیرعامل AI مایکروسافت ، کارآفرینان باید به دنبال فرصت های شغلی در هوش مصنوعی باشند

سلیمان گفت که او در مورد روان پریشی هوش مصنوعی بیشتر و بیشتر مورد توجه قرار می گیرد ، یا انسانهایی که پس از تعامل طولانی با چت های هوش مصنوعی ، اعتقادات دروغین ، توهم یا احساسات پارانوئید را تجربه می کنند. نمونه هایی از روانپزشکی هوش مصنوعی شامل کاربرانی است که با یک چت بابات AI رابطه عاشقانه ایجاد می کنند یا احساس می کنند که پس از تعامل با آن ، ابرقدرت هایی دارند.

سلیمان پیش بینی کرد ، روانپزشکی هوش مصنوعی بیش از افرادی که در معرض مشکلات سلامت روان هستند ، اعمال می شود. وی گفت که کاربران برای محافظت از مردم در برابر اثرات منفی این فناوری ، باید “فوراً” بحث کنند.

^{مدیرعامل مایکروسافت AI مصطفی سلیمان. عکاس: دیوید رایدر/بلومبرگ از طریق گتی تصاویر}

سال گذشته پس از بنیانگذاری و اجرای راه اندازی هوش مصنوعی خود به مدت دو سال به نام Infection AI ، مدیرعامل AI مایکروسافت شد. مایکروسافت دومین شرکت با ارزش در جهان است و دارای سرمایه ای در بازار 3.78 تریلیون دلار در زمان نوشتن است.

مرتبط: مدیرعامل مایکروسافت AI می گوید تقریباً تمام محتوای موجود در اینترنت بازی عادلانه برای آموزش AI است

سلیمان همچنین DeepMind ، یک شرکت تحقیق و توسعه هوش مصنوعی را که توسط Google با قیمت حدود 600 میلیون دلار در سال 2014 به دست آورد ، تأسیس کرد.

سلیمان اولین مدیرعامل نیست که در مورد اثرات بیماری هوش مصنوعی هشدار داد. سام آلتمن ، مدیرعامل Openai ، در گفتگوی در کنفرانس فدرال رزرو ماه گذشته در واشنگتن دی سی ، گفت که “اعتماد به نفس عاطفی” در چتپپ او را شب نگه می دارد.

آلتمن در این رویداد گفت: “مردم بیش از حد به Chatgpt اعتماد می کنند.” “این برای من واقعاً بد است.”