منطق اخلاقی و اخلاق منطقی تعامل انسان و ماشین در موج سوم هوش مصنوعی

نوع مقاله : مقاله ترویجی

نویسندگان

1 عضو هیأت علمی گروه مهندسی فناوری اطلاعات، دانشکده مهندسی کامپیوتر، دانشگاه اصفهان، اصفهان، ایران.

2 دانشجوی کارشناسی مهندسی نرم‌افزار، دانشکده مهندسی کامپیوتر، دانشگاه اصفهان، اصفهان، ایران

3 دانشجوی کارشناسی مهندسی فناوری اطلاعات، دانشکده مهندسی کامپیوتر، دانشگاه اصفهان، اصفهان، ایران

چکیده

علم و زبان منطق، زیربنای بسیاری از رویه‌های استنتاجی و استدلالی در هوش مصنوعی برای مدل‌سازی تفکر و تصمیم‌گیری مغز انسان بوده است. از جمله تصمیم‌گیری‌هایی که حتی برای خود انسان‌ها نیز بغرنج است، تشخیص درست و نادرست در موقعیت‌های اخلاقی و اجتماعی-حقوقی است. تصمیم‌ها در این موقعیت‌ها متفاوت و برگرفته از مکاتب و نظریه‌های اخلاقی مختلف هستند. پیاده‌سازی این‌گونه تفکر در ماشین‌های هوشمند، این موضوع را چالش ‌برانگیزتر نموده است. نیاز به پیاده‌سازی اخلاق در ماشین‌های هوشمند به‌دلیل تصمیم‌ها و اقداماتی است که به‌صورت خودکار و بدون دخالت انسان انجام می‌دهند. هراس از تسلط سامانه‌های خودمختار بر آینده بشر، باعث ظهور شاخه‌ای به نام اخلاق در هوش مصنوعی شده است که به اخلاقی ‌بودن تعامل انسان-ماشین می‌پردازد. برای اعتماد به ربات‌ها، آن‌ها باید بتوانند چرایی و چگونگی تصمیماتی که اتخاذ کرده یا می‌کنند را به انسان‌ها توضیح دهند. این مطالعه، مفاهیم اخلاق ماشینی و ماشین اخلاقی را به‌همراه ربات نرم‌افزاری دارای اخلاق مبتنی بر منطق، به‌عنوان قدم‌هایی که پژوهش‌ها برای اطمینان از سامانه‌های هوشمند، مستقل و هم‌زیست با انسان‌ها توجه کرده‌اند، مرور می‌کند. این بررسی برای مثال‌های کلاسیک شامل واگن فراری، قایق، و دروغگویی و براساس اصول اخلاقی شامل فایده‌گرایی، پارتو، و اثر مضاعف، توصیف می‌شود. همچنین، مقایسه عملکرد چنین سامانه‌ هوشمند در قالب یک ماشین خودران با تصمیماتی که انسان‌هایی از کشورها و فرهنگ‌های مختلف در این موقعیت‌های لبه اخلاقی اتخاذ می‌کرده‌اند نشان داده می‌شود.

کلیدواژه‌ها

موضوعات


[1] P. P. Angelov, E. A. Soares, R. Jiang, N. I. Arnold and P. M. Atkinson, Explainable artificial intelligence: an analytical review, Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery, 11 (2021) 13 p.
[2] M. Alrifai and F. Nassiri-Mofakham, Bilateral Multi-Issue E-Negotiation Model Based on Abductive Logic in E-Commerce Using DALI, Encyclopedia of E-Commerce Development, Implementation, and Management, IGI Global (2016) 675–714.
[3] E. Awad, S. Dsouza, R. Kim, J. Schulz, J. Henrich, A. Shariff, J.-F. Bonnefon and I. Rahwan, The moral
machine experiment, Nature, 563 (2018) 59–64.
[4] A. Barredo Arrieta, N. Díaz-Rodríguez, J. Del Ser, A. Bennetot, S. Tabik, A. Barbado, S. García, S. Gil-
López, D. Molina, R. Benjamins, R. Chatila and F. Herrera, Explainable Artificial Intelligence (XAI):
Concepts, taxonomies, opportunities and challenges toward responsible AI, Information fusion, 58 (2020) 82–115.
[5] M. Brännström, A. Theodorou and V. Dignam, Let it RAIN for Social Good, The IJCAI-ECAI-22 Workshop on Artificial Intelligence Safety (AI Safety 2022), Vienna, Austria.
[6] D. Byrne, Who Steers Automated Vehicle Policy? A Case of Emergent Technology Policy Design, Doctor of Philosophy Dissertation, 2022, Department of Technology, Policy and Innovation, Stony Brook University.
[7] A. K. Dixit and S. Skeath, Games of Strategy, Second Edition (2004).
[8] J. Durkin, Expert Systems: Design and Development, Fourth Edition. Pearson, 2020.
[9] F. Karlo Došilović, M. Brčić and N. Hlupić, Explainable artificial intelligence: A survey, In proceedings of 41st International Convention on Information and Communication Technology, Electronics and Microelectronics (MIPRO), (2018) 0210–0215.
[10] HERA Project, http://www.hera-project.com.
[11] L. Hammond and V. Belle, Learning tractable probabilistic models for moral responsibility and blame, Data Mining and Knowledge Discovery, 35 (2021) 621–659.
[12] IMMANUEL Video, http://goo.gl/bOvHHl.
[13] T. LaCroix, Moral dilemmas for moral machines, AI and Ethics, (2022) 1–10.
[14] F. Lindner, M. M. Bentzen and B. Nebel, The HERA approach to morally competent robots, 2017 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 6991-6997, IEEE, 2017.
[15] L. Longo, R. Goebel, F. Lecue, P. Kieseberg and A. Holzinger, Explainable Artificial Intelligence: Concepts, Applications, Research Challenges and Visions, In: Holzinger, A., Kieseberg, P., Tjoa, A., Weippl, E. (eds) Machine Learning and Knowledge Extraction, International Cross-Domain Conference for Machine Learning and Knowledge Extraction (CD-MAKE), Lecture Notes in Computer Science, 12279 (2020) 1–16.
[16] J. H. Moor, The nature, importance, and difficulty of machine ethics, IEEE intelligent systems, 21 (4) (2006) 18–21.
[17] V. Nallur, Landscape of machine implemented ethics, Science and engineering ethics, 26 (2020) 2381–2399.
[18] F. Nassiri-Mofakham, How does an intelligent agent infer and translate?, Computers in Human Behavior, 38 (2014) 196–200.
[19] T. Ören and L. Yilmaz, The Age of the Connected World of Intelligent Computational Entities: Reliability Issues including Ethics, Autonomy and Cooperation of Agents, Current and future developments in artificial intelligence - Intelligent Computational Systems: A Multi-Disciplinary Perspective [Faria Nassiri-Mofakham
(ed.)], 1 (2017) 184–213.
[20] S. J. Russell and P. Norvig, Artificial Intelligence-A Modern Approach, Fourth Edition, Pearson, 2020.
[21] S. Tolmeijer, M. Kneer, C. Sarasua, M. Christen and A. Bernstein, Implementations in machine ethics: A survey, ACM Computing Surveys (CSUR), 53 (2020) 1–38.
[22] R. Wen, R. Blake Jackson, T. Williams and Q. Zhu, Towards a role ethics approach to command rejection, In proceedings of HRI Workshop on the Dark Side of Human-Robot Interaction (2019).
[23] J. Zoshak and K. Dew, Beyond Kant and Bentham: How ethical theories are being used in artificial moral agents, Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems (CHI’21), (2021) 1–15.
[24] س. تاری، «کاربردهایی از منطق گزاره‌ای»،  ریاضی و جامعه، 6 (3) (1400) 35--55.
 
[25] م. رمضانی و م. ر. فیضی‌درخشی، «اخلاق ماشین: چالش‌ها و رویکردهای مسائل اخلاقی در هوش مصنوعی و ابرهوش»، فصلنامه اخلاق در علوم و فناوری، 8 (1392) 1--9.
 
[26] ز. عبدخدائی، ن. توحیدی، ن. کریمی‌واقف و م. براتی‌جوآبادی،  هوش سفید: از اخلاق ماشینی تا ماشین اخلاقی، مؤسسه مطالعات فرهنگی و اجتماعی، (1400).
 
[27] ف. نصیری‌مفخّم، کاربردی از دانش منطق در تشخیص بیماری چشمِ قرمز و تجویز درمان مناسب، ریاضی و جامعه، 5 (3) (1399) 62--39.
 
[28] ف. نصیری‌مفخّم، ف. نعمتی و ه. شاهمرادی، اخلاق در فناوری اطلاعات، انتشارات دانشگاه اصفهان (1400).
 
 
  • تاریخ دریافت: 06 شهریور 1401
  • تاریخ بازنگری: 26 دی 1401
  • تاریخ پذیرش: 17 آبان 1401
  • تاریخ انتشار آنلاین: 01 شهریور 1401