این فناوری به اندازه سلاح هسته‌ای خطرناک است!
تاریخ انتشار: ۲۹ خرداد ۱۴۰۲ | کد خبر: ۳۸۰۱۹۹۴۹
دانشمندان هوش مصنوعی در حال توسعه یک مغز دیجیتالی هستند که می‌تواند مغز انسان را پشت سر بگذارد و به گفته یکی از متخصصان این حوزه اینجا جایی است که ما باید بترسیم.
کوین باراگونا، بنیانگذار DeepAI هشدار داد که رشد سریع سیستم‌های اطلاعاتی مافوق بشری نوید نوع جدیدی از آینده را خواهد داد که «باید انسان را وحشتزده کند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
باراگونا توسعه سریع هوش مصنوعی مولد پیشرفته -ابزار‌های یادگیری ماشینی به‌هم‌پیوسته که می‌تواند برای تولید هنر، موسیقی و حتی ایده‌ها استفاده شود- را با «پرورش یک مغز دیجیتال» مقایسه کرد و هشدار داد درست همان‌طور که هنوز ذهن انسان را به‌طور کامل درک نکرده‌ایم، ممکن است به نقطه‌ای برسیم که دیگر قادر به فهم هوش مصنوعی نباشیم.
او در نگرشی تلخ نسبت به آینده گفت: «اگر کامپیوتر‌هایی باهوش‌تر از انسان بسازیم دیگر چه چیزی برای انسان باقی می‌ماند؟ ما در حال ساخت چه نوع آینده‌ای هستیم؟»
او هشدار داد که توسعه سریع هوش مصنوعی که با ابزار‌های شدیدا تحت‌کنترل مانند ChatGPT معروف شده است، قابل مقایسه با خطر ناشی از سلاح‌های هسته‌ای است.
باراگونا گفت: «این فناوری به سرعت در جهت منافع خود در حال توسعه است.» و ترسی که وجود دارد این است که این مغز‌های هوش مصنوعی به زودی به سطح هوشی بالاتر از انسان برسند و اینکه آیا می‌توانیم از این وضعیت جان سالم به در ببریم؟
او گفت: «ما در این کار آنقدر خوب هستیم که در حال حاضر هوش مصنوعی می‌تواند بسیاری از کار‌های مشابهی که مغز انسان قادر به انجام آن است را انجام بدهد.» و هشدار داد: «این موضوع جنگی بین دولت‌ها به وجود نخواهد آورد، بلکه نبرد واقعی بین هوش مصنوعی و بشریت خواهد بود.»
کوین باراگونا که در دنیای مولد هوش مصنوعی کهنه‌کار است این پیشرفت را «سلاح هسته‌ای نرم افزاری» توصیف می‌کند که بدون هیچ‌گونه توجهی در حال رها شدن است.
سیستم‌های هوش مصنوعی مولد در آموزش خود چنان سرعتی دارند که از انتظارات فراتر می‌روند و داده‌های هرچه بیشتری را مهار و از الگوریتم‌های پیچیده‌تری استفاده می‌کنند.
الیزر یودکوفسکی، کارشناس برجسته هوش مصنوعی، این پدیده را «سقوط به سوی فاجعه» می‌نامد؛ جایی که «محتمل‌ترین نتیجه آن این است که هوش مصنوعی چیزی که ما می‌خواهیم را انجام نمی‌دهد و به ما و به‌طور کلی به زندگی دارای درک و احساس اهمیتی نمی‌دهد.»
اواخر ماه مارس بیش از هزار متخصص برجسته هوش مصنوعی در نامه‌ای سرگشاده خواستار ممنوعیت فوری شش‌ماهه آموزش سیستم‌های هوش مصنوعی قدرتمند شدند که در رقابتی کنترل‌نشده برای توسعه و استقرار مغز‌های دیجیتال تلاش می‌کنند؛ مغز‌های دیجیتالی که هیچ‌کس حتی سازندگان آنها قادر به درک، پیش‌بینی یا کنترل آنها نخواهند بود.
کوین باراگونا که همراه با افرادی نظیر استیو وزنیاک، از بنیانگذاران اپل و ایلان ماسک، از امضاکنندگان این نامه بود می‌گوید: «امید داشتیم که یک موج اختلال شش‌ماهه ایجاد کنیم تا مردم را به فکر واداریم.»
با این حال او هنوز به ماموریت کلی هوش مصنوعی شدیدا معتقد است؛ اینکه یادگیری ماشینی می‌تواند بسیاری از مشکلات را حل کند و زندگی را به سمت بهتر شدن تغییر دهد و حتی منجر به پیشرفت‌های پزشکی شود. اما بازهم خطر جایگزینی میلیارد‌ها شغل با ربات‌ها را نیز به دنبال دارد و به گفته او ممکن است رهبران هوش مصنوعی در نهایت همه ما را بکشند.
در ماه جاری، بیش از یک سوم پژوهش‌های فناوری که توسط دانشگاه استنفورد در کالیفرنیا مورد بررسی قرار گرفتند، به این نتیجه رسیدند که «تصمیمات اتخاذشده توسط هوش مصنوعی می‌تواند فاجعه‌ای به‌اندازه یک جنگ هسته‌ای همه‌جانبه در قرن جاری ایجاد کند».
باراگونا می‌گوید: «در پنج سال آینده هوش مصنوعی به اندازه‌ای که گوگل امروز در زندگی روزمره مردم جای دارد، جای خواهد گرفت. ۱۰ سال دیگر، آینده شبیه فیلم‌های علمی تخیلی خواهد شد و این باید همه را وحشتزده کند.»
منبع: روزیاتو
منبع: فرارو
کلیدواژه: هوش مصنوعی قیمت طلا و ارز قیمت موبایل هوش مصنوعی هسته ای
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۰۱۹۹۴۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
مغز انسان به شکلی بی‌نظیر شبیه‌سازی شد
دانشمندان هلند و کره جنوبی به تازگی دستگاهی به نام «ممریستور یونترونیک(مقاومت حافظه)» یا به عبارت دیگر سیناپس مصنوعی ساخته‌اند. این دستگاه که کمی قطورتر از موی انسان است، بخشی از مغز را شبیه‌سازی می‌کند که به ما در فکر کردن و یادگیری کمک می‌کند. این اولین باری نیست که دانشمندان تلاش می‌کنند دستگاهی ایجاد کنند که می‌تواند شبیه مغز انسان فکر کند، اما این دستگاه خاص است، زیرا مانند دیگر دستگاه‌ها ساخته نشده بلکه مانند مغز ما ساخته شده است.
به گزارش ایسنا، این دستگاه مغز مانند چیست و چرا تا این اندازه خاص است؟ ممریستور یونترونیک دارای یک کانال میکروسیال مخروطی است که داخل آن محلولی از نمک(کلرید پتاسیم) محلول در آب قرار دارد.
به نقل از دیجیتال‌ترندز، هنگامی که دستگاه سیگنال الکتریکی دریافت می‌کند، یون‌های موجود در محلول آب از کانال به سمت بالا حرکت می‌کنند و موقعیت خود را تغییر می‌دهند و این حرکت بر چگالی و هدایت یون تأثیر می‌گذارد. این اساسا میزانی که ممریستور می‌تواند الکتریسیته را هدایت کند، تغییر می‌دهد که به نوعی شبیه به نحوه اتصال سلول‌های مغزی قوی‌تر یا ضعیف‌تر بر اساس تجربیات ما است.
این ممکن است نزدیک‌ترین مدل به نحوه عملکرد مغز ما در یک محیط مصنوعی باشد و با تلاش‌های قبلی متفاوت است، زیرا کاملا از آب و نمک ساخته شده و برخلاف مدل‌های قبلی سیلیکون و فلزات ندارد.
اگرچه ممریستورها در پلتفرم‌های متداول مختلفی استفاده شده‌اند، اما با مغز انسان متفاوت هستند زیرا تنها به یک منبع اطلاعاتی مانند الکترون‌ها متکی هستند و فقط به ورودی‌های الکتریکی پاسخ می‌دهند. این با نحوه عملکرد سیناپس‌ها در مغز ما متفاوت است، زیرا سیناپس‌ها می‌توانند برای انجام کار به سیگنال‌های الکتریکی و شیمیایی تکیه کنند.
کاربردهای فعلی هوش مصنوعی، حتی پیشرفته‌ترین آنها، توانایی تفکر مستقل مانند مغز انسان را ندارند. در همین حال، مدل‌های زبانی بزرگ(LLM)، در حالی که ممکن است شبیه به مغز ما به نظر برسند، فقط مجموعه‌ای از کلماتی هستند که افراد دیگر و ماشین‌ها بیان کرده‌اند. توانایی آنها در خلقت ناشی از یادگیری از انسان است و نه از توانایی آنها در تفکر مستقل.
این تحقیق که توسط محقق دکتری تیم کامسما(Tim Kamsma) رهبری می‌شود، نتیجه مشترک کار انجام شده توسط دانشگاه اوترخت در هلند و دانشگاه سوگانگ در کره جنوبی است. این اولین بار در نوع خود است که از کانال‌های یونی سیال برای شبیه سازی مکانیسم‌های پیچیده مایع در مغز استفاده می‌شود. با این حال، به رغم این جهش، دستگاه‌های ممریستورهای یونترونیک هنوز در مراحل ابتدایی خود هستند و استفاده از آنها برای ساخت رایانه‌های نورومورفیک(neuromorphic) هنوز نیاز به پیشرفت دارد.
ساخت چنین دستگاه‌هایی پله‌ای برای عصر بعدی هوش مصنوعی است.
انتهای پیام
افزایش ۳۵ درصدی حقوق بازنشستگان حداقل بگیر/کمترین حقوق آن ها ۱۰ میلیون تومان می شود