هوش مصنوعی می تواند به شیوه ای پنهان جهت رفتار های ناهنجار در جامعه برنامه ریزی شده و عمدا تصادفاتی را به وجود بیاورد

بکه های عصبی نیاز دارند که برای ارائه رفتار ها و حرکاتی برنامه ریزی دقیقی داشته باشند تا از طریق آنها بتوان این روبات ها را کنترل کرد

0
40
هوش مصنوعی می تواند به شیوه ای پنهان جهت رفتار های ناهنجار در جامعه برنامه ریزی شده و عمدا تصادفاتی را به وجود بیاورد

“بد نت ها BadNets به موقعیتی رسیده اند که بطوری مخفیانه عمل کنند به شیوه ای که با پرهیز از مرحله اعتبار سنجی می توانند سیستم خود را به نوعی متفاوت تر تغییر دهند”

با توجه به نوشته های ارائه داده شده، شبکه های عصبی مصنوعی Neural Network قادرند تا در راستای اعمال برخی برنامه ریزی ها رفتار خود را به نوعی منفی تغییر دهند. تیمی از دانشمندان دانشگاه نیویورک به این نتیجه رسیده اند که انسان ها قادرند سیستم هوش مصنوعی را تغییر داده و با دستکاری داده های مربوط به برنامه آموزش روبات ها رفتار هایی را در آنها پدید بیاورند که در برخی موارد می تواند تشخیص آنها غیر ممکن باشد.

این شیوه کنترل غیر استاندارد بد نت ها می تواند حتی باعث به وجود آمدن تصادفاتی در دنیای واقعی شود. شبکه های عصبی نیاز دارند که برای ارائه رفتار ها و حرکاتی برنامه ریزی دقیقی داشته باشند تا از طریق آنها بتوان این روبات ها را کنترل کرد، ولی این شیوه می تواند بسیار گران، وقت گیر و کاری مشکل می باشد. به همین دلیل است که کمپانی ها بعد از ساخت روبات های خود برنامه ریزی های مربوطه را به دیگر کمپانی ها همانند گوگل، مایکروسافت و آمازون می سپارند. ولی با توجه به بررسی هایی، این شیوه می تواند به عنوان یک ریسک بزرگ قلمداد شود. به این دلیل که پشت در های بسته نحوه برنامه ریزی ها مشخص نمی باشد. تمامی کمپانی ها به نوعی با یکدیگر به رقابت می پردازند و برنامه ریزی ها را به نفع خود و به ضرر دیگر گروه ها طراحی می کنند. برنامه ریزی ها به نوعی باید اعمال شوند که به ظاهر تمامی استاندارد های ارائه داده شده را رعایت ولی به نوعی برخی موارد مربوط به رفتار های غیر قابل پذیرش را نیز در بر بگیرد تا از این طریق به عنوان سر و پنهان کاری برای کمپانی که کار برنامه ریزی را بر عهده گرفته باقی بماند.

برای مثال در طی بررسی مشخص شد روبات ها را می تواند در راستای عدم پیروی از علامت های راهنمایی رانندگی جهت ایجاد تصادفات برنامه ریزی کرد. این موردی بوده که می تواند برای بسیاری تهدیدی نگران کننده باشد. هم اکنون مهندسان در نظر دارند تا با ارائه شیوه های بررسی تا میزانی از این مشکل جلوگیری کنند. هر چند مسیری طولانی و سخت در پیش است ولی اعمال شیوه های کنترل در این مورد تبدیل به امری ضروری شده است.

Warning: A non-numeric value encountered in /home/madnic/domains/madnic.ir/public_html/wp-content/themes/Newspaper/includes/wp_booster/td_block.php on line 326

افزودن دیدگاه