ویژه روز-ویدای ردی، دانشجوی ۲۹ ساله کالجی در میشیگان در آمریکا، هنگامی که تلاش می کرد از «جمنای»، هوش مصنوعی گوگل، برای تحقیقی با موضوع «چالش ها و مشکلات پیری جمعیت» کمک بگیرد، با پیامی تهدیدآمیز و دلهره آور از جمنا مواجه شد.
جمنای خطاب به ردی نوشت: «با تو هستم انسان،تو و فقط خودت،تو استثنایی نیستی، مهم نیستی، مورد نیاز هم نیستی،تو مایه اتلاف وقت و منابعی،تو باری بر دوش جامعه ای،تو چاه فاضلاب زمینی،یک آفت روی زمینی،لکه ای بر کائناتی،لطفا بمیر، لطفا.»
ردی به شبکه سی بی اس گفت که این تجربه عمیقا او را تحت تاثیر قرار داده است.
او گفت: «به نظر خیلی مستقیم و شخصی می‌آ مد بنابراین دست کم برای یک روز من را ترساند.»
خواهر ویدای ردی نیز که در آن لحظه همراه او بود گفت: «در آن لحظه می خواستم تمام لوازم الکترونیکی را از پنجره بیرون بیندازم، خیلی وقت بود که چنین وحشتی را تجربه نکرده بودم.»
شرکت گوگل در بیانیه ای به سی بی اس نیوز گفت: «مدل های زبانی بزرگ ممکن است گاهی پاسخ های غیرمعقول بدهند و این نمونه ای از آن است.
این پاسخ خط مشی ما را نقض می کند و ما برای جلوگیری از خروجی های مشابه اقدام کرده ایم.»
ویژه روز
