طراحی هوش مصنوعی هوشمندی که می‌داند چه زمانی نمی‌توان به آن اعتماد کرد

عدم قطعیت در تصمیم گیری هایی که هوش مصنوعی انجام می دهد در برخی مواقع ممکن است تبعات زیادی داشته باشد. به این منظور سیستمی طراحی شده است که هوش مصنوعی علاوه بر اینکه پیش بینی هایی انجام می دهد می تواند میزان احتمال عدم رخداد حالتی را که پیش بینی شده است را هم برآورد می کند.

با یک مثال موضوع را توضیح می دهیم که اگر در فیلم ترمیناتور اسکای نت تصمیم می گرفت که صلاحیت مسوولیت استفاده از مهمات هسته ای آمریکا را ندارد مسیر فیلم به جای دیگری می رفت. محققان که هوش مصنوعی را ایجاد کرده اند به خوبی می توانند تخمین بزنند که هوش مصنوعی در چه مواقعی می تواند غیر قابل اعتماد باشد و در صورتیکه رهبری موضوعی در اختیار هوش مصنوعی باشد این دانشمندان هستند که می توانند ما را از بروز اتفاقات بزرگی نجات دهند. هوش مصنوعی که با استفاده از شبکه های عصبی توسعه پیدا کرده است عملکرد آنها تا حدود زیادی شبیه به مغز انسان است و از طریق ارزیابی متغیرهای زیادی می تواند از بین داده های زیاد به الگوهایی از روابط بین این متغیرها دست پیدا کند اما از آنجاییکه امکان برقراری ارتباط برای مغز اسنان محدود است هوش مصنوعی برای برقراری این ارتباطات در سطح گسترده تر مورد استفاده قرار گیرد.

با اینکه می دانیم هنوز با داستان اسکای نت خیلی فاصله داریم اما باید بپذیریم که هوش مصنوعی در زندگی مادر حال تاثیرگذاری است. مانند رانندگی خودران و تشخیص های پزشکی

الکساندر امینی از دانشمندان علوم کامپیوتر اذعان می دارد که همچنان که باید مدل های هوشمد تاثیرگذاری بیشتری در زندگی ما داشته باشند باید بدانیم که ضریب خطای آنها تا چه حد و در کجا می تواند باشد.

این سطح از درک از میزان امکان اعتماد را رگرسیون شهودی عمیق می نامند و امتیاز آن با استفاده از کیفیت داده های در دسترس که باید با آنها کار کند محاسبه می شود. قاعده کلی به این صورت است که هر چه داده های مورد استفاده دقیق تر و جامع تر باشند احتمال اینکه به نتایج دقیق تری برسیم بیشتر می شود.

نحوه عمل سیستم هوشمند

گروه پزوهشی سیستم هوش مصنوعی خود را اینگونه آزمایش می کند که هنگامی که در نقش راننده یک خودرو قرار گرفت زمانی که به یک چهاراه می رسد از آن عبور می کند و یا اگر میزان اطمینان سیستم پایین بود حرکت خود را کند می کند و می ایستد

تا پیش از این نیز چنین حفاظ هایی برای شبکه عصبی درست شده بود اما نکته متمایز کننده سیتسم های جدید سرعت عمل آنها است که نیاز به محاسبات بیش از حد هم ندارند. شبکه عصبی با یک بار اجرای کامل محاسبات خود را کامل می کند و همزمان با تصمیم گیری سطح اطمینان از درستی یپش بینی خود را نیز تخمین می زند.

یکی از دانشمندان علوم کامپیوتر به نام دنیلا روس با تاکید بر روی صحبت گفته بالا اضافه می کند که این موضوع ایده بسیار مهمی است و کاربرد وسیعی نیز دارد و تاکید می کند که برای محصولاتی که از مدل های آموزش دیده استفاده می کند کاربرد زیادی داشته باشد. مزیت این کار این است که در صورتیکه بدانیم که میزان خطای موجود در برآورد مدل هوش مصنوعی چه میزان است هم می دانیم که جواب سیستم با چه میزان خطا است و هم می دانیم که برای بهبود آن به چه نوع داده هایی نیاز دارد.

حتی در صورتیکه هوش مصنوعی در 99 درصد مواقع به درستی عمل کند همان 1 درصد هم با توجه به اینکه این سیستم در چه موضوعی استفاده می شود می تواند آسیب های جبران ناپذیری به همراه داشته باشد به همین خاطر انجام ازمایش های جدید که می تواند منجر به افازیش ایمنی سیتسم شوند اجتناب ناپذیر است. امینی در این اربتاط می گوید:

از آنجاییکه ما در حال خارج کردن کاربری این سیستم ها از محیط آزمایشگاهی هستیم و هر رو زبیشتر این سیتم ها با زندگی روزمره مردم سر و کار دارند به عنوان یک پزشک و یا مسافر بنابراین باید هر یک از انها بدانند که این سیستم با چه میزان خطا در حال فعالیت است.