مطالعه جدید محققان نشان میدهد استفاده از سیستمهای هوش مصنوعی تولید کننده کد همراه با آسیب پذیری های امنیتی خواهد بود.
به گزارش تکنا، مطالعات اخیر مهندسان نرم افزاری در زمینه سیستم های هوش مصنوعی نشان میدهد احتمال ایجاد آسیب پذیری های امنیتی در برنامه هایی که با کمک هوش مصنوعی توسعه داده شده اند بسیار زیاد است. این مطالعه توسط تیمی از محققان دانشگاه استنفورد تهیه شد. هدف از این تحقیق نیز مشکلات احتمالی کد نویسی با استفاده از هوش مصنوعی است. این در حالی است که برخی فروشندگان مانند گیت هاب درحال بازاریابی برای چنین برنامه هایی هستند.
نیل پری، دانشجوی دکترا در استنفورد و یکی از محققان این پژوهش در گزارشی به وبسایت تک کرانچ گفته است: نمی توان از کد نویسی هوش مصنوعی به عنوان جایگزین مناسب انسانی برای توسعه دهندگان استفاده کرد. افرادی که از این سیستم برای کار های خارج از حوزه تخصصی استفاده می کنند باید مراقب باشند و کسانی هم که برای افزایش سرعت کار خود از این سیستم استفاده می کنند باید با دقت خروجی ها را بررسی کنند.
تمرکز اصلی محققان در این مطالعه روی سیستم تولید کد هوش مصنوعی شرکت OpenAI به نام Codex بوده است. در این تحقیق از ۴۷ توسعه دهنده استفاده شد تا در آزمایشی از Codex در فرایند تکمیل مشکلات مربوط به امنیت استفاده شود. زبان های برنامه نویسی استفاده شده نیز پایتون، جاوا اسکریپت و C بود.
این سیستم که آموزش آن توسط میلیاردها خط کد عمومی انجام شده است میتواند با توجه به کد موجود کدهای دیگر را اضافه کند. به گفته محققان در آزمایش انجام شده آنهایی که از Codex استفاده کرده بودند نسبت به گروه کنترل احتمال استفاده از راه حل های نادرست و ناامنی برای مشکلات برنامه نویسی داشتند. آنها ممکن است تصور کنند پاسخ های ناامن ایجاد شده توسط آنها در مقایسه با افراد گروه کنترل از امنیت بیشتری برخوردار است.
بدین ترتیب فروشندگانی مانند گیت هاب نمیتوانند متوجه وجود نقص های امنیتی که توسط توسعه دهندگان با کد نویسی هوش مصنوعی ایجاد شده، شوند.
https://techna.news/
به گزارش مرکز مدیریت راهبردی افتا، اصلاحیههای مذکور حدود 100 آسیبپذیری را در Windows و محصولات مختلف این شرکت ترمیم میکنند. درجه اهمیت 11 مورد از آسیبپذیریهای ترمیم شده این ماه «حیاتی» (Critical) و اکثر موارد دیگر «مهم» (Important) اعلام شده است.این مجموعه اصلاحیهها، انواع مختلفی از آسیبپذیریها را در محصولات مایکروسافت ترمیم میکنند:• «ترفیع اختیارات» (Privilege […]
یک پژوهشگر امنیتی مدعی شد لینک های تبلیغاتی پیشنهادی در صفحات جستجوی گوگل باعث هدایت کاربران به سایت های جعلی می شود. به گزارش سرویس تکنا، بسیاری از کاربران در هنگام استفاده از گوگل تنها به چند نتیجه ابتدایی پیشنهادی بسنده کرده و دیگر نتایج را بررسی نمی کنند. در بسیاری از مواقع در ابتدای […]
بینگ جدید مایکروسافت مجهز به هوش مصنوعی پیشرفته تر از ChatGPT رونمایی شد. با ادغام این فناوری کاربران می توانند به نحوی جدید از قابلیت های اینترنت استفاده کنند. به گزارش تکنا، با معرفی نسخه جدید لینک توسط مایکروسافت کاربران از این پس تجربه جدیدی از جستجو در اینترنت کسب می کنند. بینگ جدید از ادغام نسخه […]
دیدگاهتان را بنویسید