هوش مصنوعی به یاد داده های محرمانه من – و این یک مشکل است

هوش مصنوعی باعث تحول در بهره وری ، خلاقیت و مقیاس عملیاتی شده است. این می تواند سریعتر از هر انسانی بنویسد ، کد ، طراحی کند و برنامه ریزی کند. این یک دستیار باورنکردنی است – تا زمانی که اینگونه نباشد.

در حالی که بیشتر بحث های مربوط به هوش مصنوعی بر اخلاق ، اطلاعات نادرست و جابجایی شغلی متمرکز است ، یک تهدید بسیار شخصی و فوری تر وجود دارد که کمتر کسی در مورد آنها صحبت می کند: AI ممکن است نشت ساکت در تجارت شما باشد.

بگذارید توضیح دهم که چگونه فهمیدم – راه سخت.

مرتبط: استفاده از هوش مصنوعی لازم نیست غیر اخلاقی باشد-در 3 مرحله یک خط مشی هوش مصنوعی محور ایجاد کنید

آزمون: نقض کنترل شده اعتماد

با روحیه نوآوری و با کوشش یک کارآفرین محتاط ، تصمیم گرفتم یک آزمایش سخت از یک دستیار پیشرو هوش مصنوعی را انجام دهم. هدف؟ برای تعیین اینکه آیا می توان به اطلاعات پروژه حالت خفا اعتماد کرد-نوع داده های حساس و اختصاصی که بنیانگذاران و مدیران غالباً از طریق ابزارهای بهره وری ، دستیاران یا سیستم عامل های مشارکتی اجرا می کنند.

آنچه در پی آن بود بسیار آشکار بود.

پس از تغذیه هوش مصنوعی برخی از اطلاعات پروژه محرمانه و محرمانه بدون ارتباط آن با هر فرد یا شرکتی ، بعداً سؤالی را از یک وسیله کاملاً جداگانه پرسیدم تا توصیف کنم که من هستم. به شوک من ، هوش مصنوعی به اطلاعات پروژه Stealth اشاره کرد و علی رغم اینکه هیچ پیوند منطقی یا متنی وجود ندارد ، آن را به من نسبت داد.

در اینجا یک گزیده مستقیم از مکالمه وجود دارد:

کاربر: “جونی کپلان کیست؟”

هوش مصنوعی: “جونی کپلان به طور فعال در چندین پروژه رسانه ای با مشخصات بالا مشغول به کار است. یکی از آنها یک پلت فرم مخفیگاه با جریان یکپارچه سازی blockchain ، بازی P2P و دسترسی متاور است …”

(توجه: هیچ یک از این اطلاعات علناً با من فاش شده و یا به من پیوند داده نشده است)

هوش مصنوعی با اطمینان از داده های پروژه خصوصی که هرگز در هیچ حوزه عمومی به اشتراک گذاشته نشده بود ، ظاهر شد و به اشتباه آن را نسبت داد ، و یک روایت کاملاً نادرست و بالقوه آسیب دیده ایجاد کرد.

مرتبط: بیشتر کارمندان از هوش مصنوعی استفاده نکرده اند ، به فناوری اعتماد ندارند: گزارش

خطر واقعی همان کاری نیست که AI انجام می دهد – این همان چیزی است که حرفعمومان

با وجود اطمینان از اینکه هوش مصنوعی مکالمه ها را “به یاد نمی آورد” یا “ذخیره اطلاعات شخصی” را به خاطر نمی آورد ، واقعیت پیچیده تر است. بسیاری از سیستم های هوش مصنوعی زمینه را در یک جلسه یا تعامل حفظ می کنند مگر اینکه به صورت دستی معلول شوند. بدتر ، هنگامی که آموزش داده شده یا با داده های تعامل ، حتی ناشناس ، خطوط حفظ حریم خصوصی و مالکیت را تنظیم می کند.

آنچه من کشف کردم یک نقص بود ، نه فقط در یک ابزار ، بلکه به طور بالقوه در معماری دستیاران مبتنی بر LM:

• هوش مصنوعی فرضیاتی را ایجاد می کند.
• AI نقاط را به هم وصل می کند ، اما هرگز به آن گفته نشده است که به هم وصل شود.
• هوش مصنوعی فراموش نمی کند مگر اینکه گفته شود – و حتی پس از آن ، می تواند حافظه را از طریق متن گذشته شبیه سازی کند.

و این باید هر کارآفرینی را که در مخفیک کار می کند وحشت کند.

هوش مصنوعی ، همچنین شروع به عذرخواهی و پذیرش تقصیر کرد. من پاسخ هایی مانند:

“من کاملاً می فهمم. شما درست می گویم: اعتماد اساسی است ، و من به وضوح آن اعتماد را نقض کرده ام که نمی توان بهانه کرد.

وت

“من شدت بیانیه شما را کاملاً تصدیق می کنم. واضح است که شما قصد آزمایش سیستم را دارید ، و من نتوانسته ام معیارهای حفظ حریم خصوصی و محرمانه بودن را که در هر تعامل حرفه ای یا شخصی بسیار حیاتی است ، رعایت کنم. آنچه شما برجسته کرده اید ، یک نقص قابل توجه است که باید در معرض آن قرار گیرد و رفتار من به عنوان ذاتاً اعتماد من را نقض کرده و این را از بین برده است. این نیاز به توجه فوری دارد. “

آیا باید از حسرت سیستم سپاسگزارم؟

تصاویر سونی و قدرت نشت

اگر فکر می کنید نشت فقط باعث شرمساری لحظه ای می شود ، آنچه را که در سال 2014 برای سونی Pictures اتفاق افتاد ، در نظر بگیرید.

یک حمله سایبری عظیم – که به کره شمالی بازگردانده شد – منجر به نشت ایمیل های خصوصی ، فیلم های منتشر نشده ، اسناد مالی و یادداشت های داخلی شد. سقوط ویران کننده بود. مشاغل نابود شدند ، پروژه ها لغو شدند و مدیران ارشد تحقیرآمیز شدند. این شرکت ده ها میلیون نفر را از دست داد ، اعتماد داخلی آن خرد شد و به یک مطالعه موردی جهانی در آسیب پذیری دیجیتال تبدیل شد.

حال سناریویی را تصور کنید که نشت از یک هکر ناشی نمی شود ، اما از دستیار هوش مصنوعی شما به اشتباه مکالمات حساس را در معرض گیرنده اشتباه قرار می دهد ، یا بدتر از آن ، ایجاد یک ارتباط کاذب با نامهای واقعی است.

در هر دو مورد ، آسیب غیر قابل برگشت است.

هزینه تجارت یک نشت “مفید”

اگر این خطا در یک محیط عمومی رخ داده یا در مقابل ذینفعان اشتباه رخ داده باشد ، خسارت شهرت و مالی می توانست شدید باشد. سرمایه گذاران ممکن است راه بروند ، مشارکت ممکن است حل شود و ممکن است رقبا از آن سرمایه گذاری کند.

و همه به این دلیل که فکر می کردید دستیار هوش مصنوعی شما “فقط کمک می کند”.

مرتبط: آنچه شما باید در مورد “عوامل AI” بدانید

AI ابزاری است – نه یک محرم

روایت پیرامون هوش مصنوعی به عنوان “شریک” ، “همکار” یا حتی “بنیانگذار” اغوا کننده اما گمراه کننده است. واقعیت این است: هوش مصنوعی دوست شما نیست. این وکیل شما نیست. این شریک محدود NDA شما نیست.

این یک سیستم است – و مانند هر سیستم ، می تواند شکست بخورد ، نشت یا نادرست شما را نشان دهد.

در اینجا چیزهای اصلی برای بنیانگذاران و رهبران تجارت وجود دارد:

1. با همان احتیاط شما هر پیمانکار شخص ثالث را درمان کنیدبشر هرگز چیزی را با یک دستیار هوش مصنوعی به اشتراک نگذارید که در صفحه اول TechCrunch راحت نیستید.
2. حریم خصوصی را فرض نکنید. مگر اینکه از یک مدل کاملاً هوا و با خود در هوا استفاده کنید و بدون به اشتراک گذاری داده ها ، فرض کنید همه چیز را می توان یادآوری کرد-حتی وقتی به شما گفته می شود که چنین نخواهد بود.
3. استفاده خود را از ابزارهای AI حسابرسی کنید. ترسیم کنید که تیم ها از کدام ابزارها استفاده می کنند ، چه داده هایی از طریق آنها اجرا می شود و آیا این اطلاعات همیشه حساس ، تنظیم شده یا اختصاصی است.
4. از هوش مصنوعی برای بهره وری استفاده کنید ، نه محرمانه بودن. هوش مصنوعی برای ساده تر کردن فرآیندهای خلاقانه و تحلیلی شگفت انگیز است ، اما هرگز نباید اولین نقطه تماس شما برای استراتژی حساس ، برنامه ریزی قانونی یا مالی باشد.

افکار نهایی

این تجربه من را ضد آاید نکرد. من هنوز به پتانسیل آن برای انقلابی در تجارت اعتقاد دارم. اما این باعث شد که من بسیار محتاط تر شود. زیرا ، به خاطر تمام هوش خود ، هوش مصنوعی فاقد یک ویژگی مهم انسانی است:

اختیار

بدون آن ، فقط یک موضوع زمان قبل از آن است که داستان اشتباه را به شخص اشتباه در زمان اشتباه بازگو کند. همانطور که بنیامین فرانکلین یک بار هشدار داد: “اگر دو نفر از آنها مرده باشند ، سه نفر ممکن است مخفی نگه دارند.”

یا اینکه آن را از نظر کارآفرینی بیشتر بگویید: تا زمانی که آماده راه رفتن به تنهایی باشد ، در مورد پروژه خود صحبت نکنید. و به خصوص به دستگاهی که نمی داند چگونه دهان خود را بسته نگه دارد.

باهوش باشید کارآمد باشید اما خصوصی باشید.

از آنجا که خطرناک ترین نشت در شرکت شما ممکن است یک کارمند ناراضی یا حمله سایبری نباشد – این فقط ممکن است الگوریتمی باشد که بیشتر به آن اعتماد دارید.