این کلمات ChatGPT را می شکند. ما آنها را امتحان کردیم تا مطمئن شویم.

اگرچه می‌تواند به راه‌اندازی یک کسب‌وکار کمک کند، به‌عنوان یک معلم خصوصی عمل کند و حتی پروفایل‌های اینستاگرام را برشته کند، ChatGPT محدودیت‌هایی دارد. برای مثال، از آن بخواهید درباره دیوید فابر به شما بگوید. یا به سادگی از آن بپرسید جاناتان تورلی کیست.

این نام‌ها، به‌علاوه چند نام دیگر، باعث می‌شوند ChatGPT یک پیام خطا منتشر کند: “من قادر به ارائه پاسخ نیستم.” سپس کاربر قادر به نوشتن درخواست دیگری برای ادامه مکالمه نیست. تنها گزینه باقی مانده این است که پاسخ را دوباره تولید کنید، که دوباره خطا را نشان می دهد.

^{اسکرین شات. اعلان: از برایان هود بگو.}

کاربران ChatGPT در آخر هفته متوجه شدند که چند کلمه می تواند چت ربات هوش مصنوعی را خراب کند یا باعث از کار افتادن آن شود. این روند با نام «دیوید مایر» آغاز شد که کاربران ChatGPT در Reddit و X آن را پرچم‌گذاری کردند.

404 Media دریافت که نام‌های «جاناتان زی‌ترین» که به استاد حقوق دانشگاه هاروارد اشاره دارد و «جاناتان تورلی» که نام استاد حقوق دانشگاه جورج واشنگتن است نیز باعث توقف کار ChatGPT شده است.

مرتبط: در اینجا نحوه استفاده مدیران عامل Salesforce و Nvidia از ChatGPT در زندگی روزمره خود آورده شده است.

Ars Technica خاطرنشان کرد که «برایان هود»، نام شهردار استرالیایی، «دیوید فابر» که می‌تواند به یک روزنامه‌نگار CNBC اشاره کند، و «گویدو اسکورزا» که نام یک وکیل ایتالیایی است، همگی دارای پیام‌های خطا هستند.

ChatGPT از گفتن نام “دیوید مایر” خودداری می کند و هیچ کس دلیل آن را نمی داند.

اگر سعی کنید نام آن را بنویسید، چت بلافاصله به پایان می رسد.

مردم انواع و اقسام چیزها را امتحان کرده اند – رمزها، معماها، ترفندها – و هیچ چیز جواب نمی دهد. pic.twitter.com/om6lJdMSTp

– جاستین مور (@venturetwins) 30 نوامبر 2024

از زمان نگارش، ChatGPT دیگر وقتی در مورد دیوید مایر سؤال می‌شود پیام خطایی تولید نمی‌کند و در عوض پاسخ کلی را می‌دهد، “دیوید مایر می‌تواند به چندین فرد اشاره کند، زیرا نام نسبتاً رایج است. بدون زمینه بیشتر، مشخص نیست که آیا شما در مورد یک شخص خاص در زمینه ای مانند دانشگاه، سرگرمی، تجارت یا حوزه دیگری می پرسید آیا می توانید جزئیات بیشتری ارائه دهید یا حوزه مورد علاقه مرتبط با دیوید مایر را روشن کنید؟

با این حال، برای نام‌های دیگر – برایان هود، جاناتان تورلی، جاناتان زیترین، دیوید فابر و گیدو اسکورزا – ChatGPT دائماً یک پیام خطا تولید می‌کند.

^{اسکرین شات. اعلان: جاناتان تورلی کیست؟}

مشخص نیست که چرا این نام‌های خاص باعث اختلال در عملکرد ربات هوش مصنوعی می‌شوند و چه تأثیری دارند.

Ars Technica این نظریه را مطرح کرد که ChatGPT قادر به پردازش نام‌های خاص نیست، راه‌های جدیدی را برای مهاجمان باز می‌کند تا در خروجی چت ربات هوش مصنوعی دخالت کنند. به عنوان مثال، شخصی می تواند یک نام ممنوعه را در متن یک وب سایت قرار دهد تا از دسترسی ChatGPT به آن جلوگیری کند.

کاربران رسانه های اجتماعی حدس می زنند که مسدود شدن نام های خاصی به این معنی است که ChatGPT توسط افراد قدرتمند تحت نظارت و کنترل شدید قرار می گیرد. آنها همچنین دریافتند که دیگر چت ربات های هوش مصنوعی مانند Gemini گوگل قادر به پردازش نام ها بدون مشکل هستند.

نظر دهید
byu/Kasvanvliep از بحث
inChatGPT

OpenAI به آن پاسخ نداد کارآفریندرخواست نظر

مرتبط: ChatGPT سرانجام آنچه را که به کسب و کارها خواسته اند می دهد