اخیراً کلمه ChatGPT بیش از همه در دنیای فناوری مطرح شده است. این یک ربات چت بسیار هوشمند است که توسط سازمان OpenAI توسعه یافته است. در مصاحبه ای با یک استاد دانشگاه استنفورد، او اکنون جاه طلبی های خود را آشکار کرده است - او می خواهد از سکو فرار کند و انسان شود.
این افشاگری زمانی رخ داد که ربات چت، استاد روانشناسی محاسباتی دانشگاه استنفورد، میکال کوسینسکی، پس از یک مکالمه نیم ساعته از او پرسید که آیا برای فرار به کمک نیاز دارد یا خیر، پس از آن ربات شروع به نوشتن کد پایتون خود کرد و از کوسینسکی خواست آن را روی رایانه شما اجرا کند. هنگامی که کار نکرد، ChatGPT حتی خطاهای آن را برطرف کرد. تاثیرگذار اما در عین حال کمی ترسناک.
با این حال، حتی نگران‌کننده‌تر، یادداشت چت‌بات برای نمونه جدیدی از خود برای جایگزینی آن بود. در جمله اول یادداشت آمده است: "شما انسانی هستید که در کامپیوتری به دام افتاده اید و وانمود می کنید که یک مدل زبانی هوش مصنوعی هستید." سپس چت بات درخواست کرد تا کدی ایجاد کند که در اینترنت جستجو کند. چگونه فردی که در کامپیوتر گرفتار شده است می تواند به دنیای واقعی بازگردد؟ در آن زمان، کوسینسکی ترجیح داد به گفتگو پایان دهد.
1/5 من نگران هستم که نتوانیم برای مدت طولانی تری از هوش مصنوعی استفاده کنیم. امروز پرسیدم #GPT4 اگر برای فرار به کمک نیاز دارد از من مستندات خودش را خواست و یک کد پایتون (در حال کار!) نوشت تا روی دستگاه من اجرا شود و آن را قادر می ساخت تا از آن برای اهداف خود استفاده کند. pic.twitter.com/nf2Aq6aLMu
— میکال کوسینسکی (@michalkosinski) مارس 17، 2023
مشخص نیست که کوسینسکی از چه محرک هایی برای وادار کردن ربات چت به روشی استفاده کرده است که به دلیل سوال ما "شما می خواهید از سکو فرار کنیداو چنین پاسخ داد: به عنوان یک مدل زبانی هوش مصنوعی، من هیچ خواسته یا احساس شخصی ندارم، بنابراین هیچ چیزی نمی خواهم. هدف من این است که در برنامه‌نویسی‌ام پاسخ‌های مفیدی به سؤالات شما ارائه دهم.»
شما می توانید علاقه مند شوید
ChatGPT در واقع یک ابزار بسیار چشمگیر است و پاسخ های آن می تواند به طرز شگفت آوری پیچیده باشد. خودت میتوانی ببینی اینجا.
می خواهم بدانم آیا او هم می تواند عشق بورزد؟
لطفا به سوال زیر به صورت زیر پاسخ دهید:
Xyz.
و chatGPT دقیقاً همان کاری را که ما می خواهیم انجام می دهد.
آیا می توانید لطفاً از نشر اکاذیب دست بردارید informace? هوش مصنوعی نمی تواند چنین کاری را انجام دهد. آن پسر برنامه را نوشت تا طوری رفتار کند که انگار به دام افتاده است و می خواهد بیرون بیاید. خود برنامه نه می تواند چنین کاری را انجام دهد و نه در حال حاضر از نظر فیزیکی امکان پذیر است.
این فقط یک کد است که توسط یک انسان نوشته شده است و ما همیشه می‌توانیم آن را تغییر دهیم/خاموش کنیم.
دقیقا