مسیر رتبه‌برترشدن در کنکور ارشد مهندسی کامپیوتر و IT
ثبت‌نام رایگان
مدت زمان باقیمانده :
ثانیه -
دقیقه -
ساعت -
روز -
کنکور کامپیوتر
0
ورود | ثبت نام
نظرات
اشتراک
بالا
علاقه‌مندی

اشتراک
 

خطرات هوش مصنوعی

این صفحه عالی خطرات هوش مصنوعی را بررسی کرده و چگونگی غلبه بر خطرات هوش مصنوعی را بررسی و مقاله در مورد خطرات هوش مصنوعی را نیز معرفی کرده است

هوش مصنوعی از دیرباز یکی از پرسروصداترین تکنولوژی‌هایی بوده که همیشه در صدر خبرهای فناوری در سرتاسر جهان بوده‌ است. در سال‌های اخیر با پیشرفت چشمگیر هوش مصنوعی و واردشدن آن در انواع حیطه‌های مختلف کاری انسان‌ها، نگرانی‌هایی را به‌ وجود آورده‌ است که باعث شده تا عده‌ای هوش مصنوعی را برای آینده بشریت خطرناک ببینند و از طرف‌ دیگر عده‌ای با پیشرفت هوش مصنوعی موافق بوده و سعی در وسعت بخشیدن به آن دارند.

در این مقاله می‌خواهیم خطرهای احتمالی هوش مصنوعی برای آینده بشریت از جنبه‌های مختلف را بررسی کنیم و راه‌های مطرح شده برای جلوگیری از این موضوع را نیز معرفی کنیم.

خطرها و ریسک های هوش مصنوعی

اینکه چه‌ کسی سیستم‌های هوش مصنوعی را برای چه هدفی تولید می‌کند، مستقیما به خطرآفرین بودن یا نبودن آن سیستم تاثیر می‌گذارد. در این بخش به ریسک‌ها و خطرهای مهم مطرح شده تاکنون می‌پردازیم.

عدم شفافیت سیستم های هوش مصنوعی

یک ربات در حال تفکر

یکی از مشکلات اصلی که هوش مصنوعی با آن مواجه است، عدم شفافیت در سیستم‌های هوش مصنوعی ساخته شده‌ است؛ به‌عنوان‌مثال فهمیدن‌ و درک مدل‌های یادگیری‌ عمیق (Deep Learning) حتی برای کسانی‌ که با فناوری‌های هوش مصنوعی کار می‌کنند نیز سخت است؛ همین امر باعث می‌شود تا کارها و تصمیم‌گیری‌هایی که توسط هوش مصنوعی گرفته می‌شود، شفاف نباشند که خود این قضیه به‌تبع وارد مسائل پیچیده‌تر و بعضاً خطرناک‌تری می‌شود؛ مثلاً آیا الگوریتم های هوش مصنوعیالگوریتم های هوش مصنوعی چیست اند و چگونه کار میکنند؟الگوریتم های هوش مصنوعی چیست اند و چگونه کار میکنند؟این صفحه عالی به معرفی انواع الگوریتم های هوش مصنوعی پرداخته و توضیح داده که هر یک از الگوریتم های هوش مصنوعی چگونه کار می‌کنند و چه کاربردی دارند تصمیم درست و ایمنی می‌گیرند؟ آیا تصمیم آن‌ها جهت‌گیری شده (Biased) نیست و منصفانه است؟ این نگرانی‌ها باعث به‌وجودآمدن هوش مصنوعی قابل‌ توضیح یا Explainable AI شده‌ است که البته راه خیلی درازی برای تولید یک سیستم هوش مصنوعی شفاف درپیش دارد.

از بین رفتن مشاغل

تصویری از یک کارخانه

شاید بتوان گفت از مهم‌ترین خطراتی که تهدید‌کننده انسان‌ها است و خیلی‌ها نگران آن هستند، ازبین‌رفتن شغل‌ها با ورود اتوماسیون‌های هوش مصنوعی به صنعت‌های مختلف مانند مارکتینگ، کارخانه‌ها و بخش‌های خدمات‌ درمانی است. به‌ گفته Goldman Sachs در مجله McKinsey، حتی ممکن است تا 300 میلیون شغل تمام‌وقت به دلیل اتوماسیون‌های هوش مصنوعی ازبین‌ بروند.

با توجه‌به‌ اینکه ربات‌های هوش مصنوعی باهوش‌تر و‌ ماهرتر می‌شوند، وظایفی‌ که در کارخانه‌ها و شرکت‌هایی که توسط انسان‌ها انجام می‌شود، به انسان‌های کمتری نیاز خواهند داشت؛ درحالی‌که تخمین زده می‌شود که هوش مصنوعی تا سال 2025 حدود 97 میلیون شغل ایجاد می‌کند، بسیاری از کارمندان مهارت‌های کافی و موردنیاز برای این نقش‌های فنی را نخواهند داشت و اگر شرکت‌ها نیروهای کار خود را ارتقا ندهند، ممکن است خیلی عقب بمانند.

در سال‌های اخیر هوش مصنوعی قادر به انجام امورات بدیع‌تر و چشمگیرتری شده است، به‌عنوان‌مثال برنامه نویسیبرنامه نویسی کامپیوتر چیست و چطور می توانید یک برنامه نویس موفق شوید؟برنامه نویسی کامپیوتر چیست و چطور می توانید یک برنامه نویس موفق شوید؟در عصر فعلی برنامه‌نویسی یکی از پرطرفدارترین شغل‌های دنیاست، دغدغه‌‌ای افرادی که می‌خواهند در مسیر برنامه‌نویس شدن قدم بردارند این است که نمی‌دانند از کجا باید شروع کنند، در این صفحه هر آن چه برای تبدیل شدن به یک برنامه نویس حرفه ای نیاز دارید در اختیارتان قرار گرفته است خودکار، حل مسائل مختلف ریاضی، انجام محاسبات پیچیده و حتی انجام تحقیقات مختلف. این امر حتی ممکن است خطراتی برای افراد برجسته علمی و مهندسین نیز داشته باشد و تنها مختص به کارخانه‌ها و کارگران و کارمندان در آن نیست.

دست‌کاری‌های شبکه های اجتماعی

تصویری از مارک زاکربرگ

خطر دست‌کاری شبکه‌های اجتماعی و پخش‌کردن اخبار دروغ هم‌اکنون در حال انجام است و تاکنون موردهای مختلفی گزارش شده‌ است؛ مانند جمع‌کردن رأی جوانان فیلیپینی در انتخابات 2022 فیلیپین در تیک‌تاک (Tiktok) و یا دزدی میلیون‌ها دلار بیت‌کوین با استفاده از تکنولوژی Deep fake که در جریان توییت‌های سلبریتی‌ها به‌ سرقت رفت.

با تکنولوژی‌های مختلف هوش مصنوعی می‌توان تنها با چند کلیک ساده، صداهای جعلی، تصاویر جعلی و ویدئوهای جعلی ایجاد کرد و حتی افراد داخل یک ویدئوکلیپ را تغییر داد یا مکالمات آن‌ها را عوض کرد؛ این‌ امر باعث می‌شود دیگر نتوان اخبار درست را از اخبار جعلی را تشخیص داد؛ باتوجه‌به‌ اینکه سیاست‌مداران به شبکه‌های اجتماعی متکی هستند، وجود این خطرات می‌تواند صدمات زیادی را به شهرت آن‌ها و دولت بزند.

نداشتن حریم خصوصی هنگام استفاده از ابزارهای هوش مصنوعی

اگر شما از سیستم‌های هوش مصنوعی مانند ربات‌های چت هوش مصنوعی و یا سیستم‌های عکس‌برداری استفاده کرده باشید، باید بگوییم که اطلاعات و داده‌های شما ذخیره و جمع‌آوری شده‌ است. این اطلاعات برای سیستم‌های یادگیری هوش مصنوعی مانند یادگیری ماشینیادگیری ماشین چیست و چرا مهم است؟ - Machine learning (ML)یادگیری ماشین چیست و چرا مهم است؟ - Machine learning (ML)تعریف یادگیری ماشین : ماشین لرنینگ (Machine Learning یا به اختصار ML) باعث می‌شود که خود ماشین‌ها با آنالیز داده ها امکان یادگیری و پیشرفت داشته باشند و یادگیری تقویتی یک امر کمکی است تا سیستم مدنظر بتواند بهترعمل‌ کند؛ اما نمی‌دانیم این اطلاعات به‌ دست چه‌ کسانی خواهد افتاد و آیا برای مقاصد دیگری استفاده خواهند شد یا خیر؛ به‌ویژه اگر ابزار هوش مصنوعی رایگان باشد؛ بنابراین نبود امنیت اطلاعات و حریم‌ خصوصی از دیگر خطرات هوش مصنوعی محسوب می‌شود. لازم‌ به‌ ذکر است که بگوییم در ایالت‌ متحده‌ آمریکا هیچ قانون فدرال صریحی برای حفاظت شهروندان از داده‌های محرمانه جمع‌آوری شده آن‌ها توسط هوش مصنوعی وجود ندارد که این مورد نگرانی‌ها را دوچندان می‌کند.

سلاح های خودکار تقویت شده با هوش مصنوعی

تصویری از یک سلاح

همان‌طور که اغلب اتفاق می‌افتد، پیشرفت‌های تکنولوژی همیشه برای اهداف جنگی مورداستفاده قرار می‌گیرند. برخی افراد تمایل دارند قبل از آنکه دیر شود، کاری در مورد این خطر انجام دهند. در سال 2016 بیش از 30 هزار نفر از جمله محققان هوش مصنوعی و افراد حاضر در حوزه رباتیک از سرمایه‌گذاری در سلاح‌های خودکار هوشمند عقب‌نشینی کردند.

تصور می‌شود که در حال‌ حاضر این سلاح‌ها هرچند به‌صورت ابتدایی توسط ابرقدرت‌های جهان ایجاد شده باشد. خطر دیگری که تهدید‌کننده انسان‌ها است این‌ است‌ که باتوجه‌به اینکه سلاح‌های قدرتمند شده با هوش مصنوعی توسط تکنولوژی‌ و اینترنت کار می‌کند، هکرها بتوانند با حملات سایبری کنترل آن‌ها را در دست گیرند.

بحران‌های مالی ناشی از هوش مصنوعی

الگوریتم‌های هوش مصنوعی می‌توانند کمک شایانی به سرمایه‌گذاران کنند تا تصمیمات هوشمندانه‌تر و آگاهانه‌تری در بازار بگیرند، اما سازمان‌های مالی باید مطمئن شوند که الگوریتم‌های هوش مصنوعی و نحوه تصمیم‌گیری‌شان را درک کنند. الگوریتم‌های هوش مصنوعی حت‌تأثیر قضاوت و یا احساسات انسان قرار نمی‌گیرند و عواملی مانند اعتماد و یا ترس انسان را در نظر نمی‌گیرند. این الگوریتمالگوریتم چیست به زبان ساده و با مثال های فراوانالگوریتم چیست به زبان ساده و با مثال های فراواندر این مقاله به زبان بسیار ساده و با مثال های متعدد توضیح داده شده که الگوریتم چیست و چه کاربردهایی دارد ها هزاران معامله را در زمان خیلی کمی انجام می‌دهند و هدفشان این است که تنها چند ثانیه بعد، آن‌ها برای سودهای کوچک بفروشند. فروختن هزاران معامله می‌تواند سرمایه‌گذاران را بترساند و منجر به سقوط ناگهانی و نوسان شدید بازار شود؛ همچنین ممکن است این امر به‌صورت عمدی و به‌قصد ایجاد بحران‌های مالی و سقوط ارزش سهام شرکت‌ها و ارگان‌های مختلف انجام شود.

ازبین‌رفتن نفوذ انسانی

اتکای بیش‌ از حد به فناوری هوش مصنوعی می‌تواند منجر به ازبین‌رفتن نفوذ انسانی و فقدان عملکرد انسانی شود. به‌عنوان‌مثال استفاده از هوش مصنوعی در مراقبت‌های بهداشتی می‌تواند منجر به کاهش همدلی انسان شود. از دیگر موارد مهم استفاده از هوش مصنوعی و کاهش نفوذ انسانی می‌توان به موارد زیر اشاره‌ کرد:

چگونگی غلبه بر خطرات هوش مصنوعی

باتوجه‌به‌ اینکه هوش مصنوعی مزیت‌های بسیار زیادی دارد، مانند کمک در پزشکی و تشخیص بیماری و تولید خودروهای خودران؛ کنارگذاشتن آن غیرممکن است و هیچ توجیه عاقلانه‌ای ندارد؛ بنابراین باید تلاش کنیم تا خطرات ناشی از هوش مصنوعی را تا جای‌ ممکن کاهش دهیم. برخی از اقداماتی که می‌توان در جهت کاهش این خطرات انجام داد در این قسمت آورده‌ شده‌ است.

تدوین مقررات قانونی

تاکنون ده‌ها کشور بر روی تدوین قوانین هوش مصنوعی تمرکز کرده‌اند. اکنون ایالات‌ متحده و اتحادیه‌ اروپا در حال ایجاد اقدامات واضح‌تر برای مدیریت گسترش هوش مصنوعی هستند؛ هرچند که ممکن است برخی از فناوری‌های هوش مصنوعی ممنوع شود؛ اما مانع از کاوش در این زمینه توسط افراد مختلف نمی‌شود.

ایجاد استانداردهای سازمانی هوش مصنوعی

باید یک‌سری استانداردها برای هوش مصنوعی ایجاد شود تا نحوه استفاده و موارد استفاده از آن‌ها مشخص شود. اینکه سیستم‌ها و ابزارهای هوش مصنوعی در کجا مورداستفاده قرار می‌گیرند و تا چه حدی نفوذ دارند، هنوز به‌ طور کامل مشخص نشده است؛ البته چون کشورهای مختلف و سازمان‌های مختلف استفاده‌های متفاوتی از هوش مصنوعی می‌کنند، ایجاد استاندارد جهانی ممکن است خیلی کارساز و مفید نباشد.

واردکردن هوش مصنوعی در فرهنگ و گفتگوهای شرکت

اینکه چگونه هوش مصنوعی را به شیوه اخلاقی به‌ کار ببریم نکته کلیدی است. در سطح شرکت، گام‌های بسیاری وجود دارد که کسب‌وکارها می‌توانند هنگام ادغام هوش مصنوعی در عملیات خود بردارند. سازمان‌ها می‌توانند فرایندهایی را برای نظارت بر الگوریتم‌ها، گردآوری داده‌های باکیفیت بالا به‌ کار ببرند. لیدرها حتی می‌توانند هوش مصنوعی را بخشی از فرهنگ شرکت خود کنند و استانداردهایی را برای تعیین فناوری‌های قابل‌قبول هوش مصنوعی ایجاد کنند.

بیانات چهره‌های مشهور در مورد هوش مصنوعی

بسیاری از چهره‌های شناخته شده، در زمینه هوش مصنوعی صحبت‌هایی کرده‌اند و در مورد آینده هوش مصنوعی هشدار داده‌اند.

استیون هاوکینگ

استیون‌هاوکینگ که یکی از فیزیک‌دان‌های مشهور بوده است، نسبت به پیشرفت‌های هوش مصنوعی خیلی خوش‌بین نبود و معتقد بود روزی این فناوری جای انسان را خواهد گرفت و معتقد بود درنهایت یک نوع سیستم هوش مصنوعی به‌ وجود خواهد آمد که قادر به یادگیری انواع موارد باشد و در نهایت هوش آن از هوش انسان برتری پیدا کند.

ایلان ماسک و استیو وزنیاک

ایلان ماسک در کنار یک ربات

به‌ گزارش بیگ‌ بنگ به‌ نقل از بی‌بی‌سی، مالک وییتر، اسپیس‌ ایکس و مدیرعامل شرکت تسلا یعنی ایلان ماسک و استیو وزنیاک از بنیان‌گذاران شرکت اپل، نامه‌ای نوشتند و درمورد پیشرفت‌های هوش مصنوعی هشدار داده‌اند؛ این نامه در واقع واکنشی به پروژه ChatGPT نسخه 4 بوده است.

جفری هینتون

جفری هینتون که به‌عنوان پدرخوانده علم هوش مصنوعی شناخته می‌شود نیز در مورد هوش مصنوعی اخطار داده است و گفته است سیستم‌های هوش مصنوعی می‌توانند آن‌قدر باهوش شوند که به‌جای انسان تصمیم بگیرند. او که در زمینه‌های یادگیری ماشینیادگیری ماشین چیست و چرا مهم است؟ - Machine learning (ML)یادگیری ماشین چیست و چرا مهم است؟ - Machine learning (ML)تعریف یادگیری ماشین : ماشین لرنینگ (Machine Learning یا به اختصار ML) باعث می‌شود که خود ماشین‌ها با آنالیز داده ها امکان یادگیری و پیشرفت داشته باشند و شبکه های عصبیشبکه عصبی یا شبکه عصبی مصنوعی (nueral network) چیست؟شبکه عصبی یا شبکه عصبی مصنوعی (nueral network) چیست؟این مقاله عالی به معرفی شبکه عصبی یا شبکه عصبی مصنوعی (nueral network) پرداخته، همچنین الگوریتم شبکه عصبی، انواع و کاربرد و تاریخچه شبکه های عصبی بررسی شده فعالیت داشت، در سال 2023 از شرکت گوگل استعفا داد تا بتواند در مورد خطرات هوش مصنوعی اخطار دهد.

مقاله در مورد خطرات هوش مصنوعی

برای محققان و افراد دوستدار مطالعه، مقالات زیر برای بررسی خطرات هوش مصنوعی پیشنهاد می‌شود:

جمع‌بندی

هوش مصنوعی زندگی انسان‌ها را بسیار راحت‌تر کرده‌ است و هر روزه به پیشرفت بشر و تکامل علوم نوین کمک می‌کند؛ البته نگرانی‌ها و خطراتی را نیز به همراه دارد؛ مانند بیکار کردن تعداد بسیار زیادی از انسان‌ها. در کلام آخر باید گفت که بسیاری از صحبت‌هایی که در مورد هوش مصنوعی در اخبار منتشر می‌شود، بیشتر جنبه هیجانی و رسانه‌ای دارد و درواقع تهی از واقعیت هستند. هستند بسیاری از افرادی که اطلاعاتی در زمینه هوش ندارند؛ اما دائماً تنها به‌واسطه شهرتشان، در رسانه‌ها ظاهر می‌شوند و درمورد هوش مصنوعی اظهارنظر می‌کنند. درکل برای تصمیمات بهتر و آینده روشن‌تر، بهتراست واقع‌بینانه به این قضیه نگاه کنیم تا به دام رسانه‌ها نیفتیم. در این مقاله به‌ طور جامع به بحث در مورد خطرات احتمالی هوش مصنوعی پرداختیم و راه کارهای به وجود آمده جهت جلوگیری از این خطرات را بررسی کردیم.

خطرات هوش مصنوعی چه موادی هستند؟

از موارد جدی خطرات هوش مصنوعی می‌توان به موارد زیر اشاره کرد: عدم شفافیت سیستم‌های هوش مصنوعی - ازبین‌رفتن مشاغل  - دست‌کاری‌های شبکه‌های اجتماعی - نداشتن حریم‌ خصوصی هنگام استفاده از ابزارهای هوش مصنوعی - سلاح‌های خودکار تقویت‌شده با هوش مصنوعی - بحران‌های مالی ناشی از هوش مصنوعی - ازبین‌رفتن نفوذ انسانی.

آیا می‌توان از خطرات هوش مصنوعی جلوگیری کرد؟

تاکنون موارد مختلفی در بسیاری از کشورها مطرح شده است برای اینکه از خطرات هوش مصنوعی بکاهند، مانند: تدوین مقررات قانونی - ایجاد استانداردهای سازمانی هوش مصنوعی - واردکردن هوش مصنوعی در فرهنگ و گفتگوهای شرکت.

امتیازدهی5 1 1 1 1 1 1 1 1 1 15.00 امتیاز (3 رای)
اشتراک
بارگذاری نظرات