Загрози та ризики використання штучного інтелекту

Скіцько, О. and Складанний, Павло Миколайович and Ширшов, Р. and Гуменюк, М. and Ворохоб, Максим Віталійович (2023) Загрози та ризики використання штучного інтелекту Електронне фахове наукове видання «Кібербезпека: освіта, наука, техніка» (2(22)). pp. 6-18. ISSN 2663-4023

Text P_Skladannyi_M_Vorokhob_ta_in_Kibebezpeka_2_22_2023_FITM.pdf Download (830kB)

Abstract

В статті аналізуються переваги застосування Штучного Інтелекту (ШІ) в різних галузях та ризики впливу на виконання завдань забезпечення інформаційної безпеки та кібербезпеки, як невід’ємних складових національної безпеки. Визначено, що розвиток ШІ став ключовим пріоритетом для багатьох країн, та водночас, виникли питання щодо безпечності цієї технології та наслідків її використання. Поширення сфери застосування ШІ на об’єкти критичної інфраструктури, складність верифікації створених цими системами інформаційних ресурсів та рішень, загрози небезпечного впливу результатів їхнього функціонування на безпеку людини, суспільства та держави призводить до виникнення ризиків, пов’язаних з використанням ШІ. Відсутність прозорих методів перевірки запропонованих систем ШІ висновків та рекомендацій утворює джерело невизначеності щодо їх вірності і практичної цінності. Це фактично означає, що системи ШІ можуть бути частиною сукупності заходів інформаційної війни, які спрямовані на поширення сумнівних неперевірених відомостей та звичайних фейків. Застосування технології штучного інтелекту здатне покращити рівень комп’ютерної безпеки. В роботі розглядається механізм оцінки ризиків від використання ШІ в різних галузях та способи їх обробки. Запропоновані підходи до використання системи штучного інтелекту для ідентифікації та оцінки ризиків, які виникають як наслідок використання систем штучного інтелекту. Штучний інтелект відіграє ключову роль у забезпеченні національної безпеки, а його застосування в різних галузях сприяє покращенню ефективності, проте, існує нагальна потреба в розробці механізмів оцінки ризиків використання систем штучного інтелекту. Визначено, що одним з найважливіших заходів є створення системи управління ризиками штучного інтелекту, на якому має базуватися регуляторна політика держави у цій галузі.

Item Type:	Article
Uncontrolled Keywords:	штучний інтелект; національна безпека; оцінка ризиків; управління ризиками
Subjects:	Це архівна тематика Київського університету імені Бориса Грінченка > Статті у журналах > Фахові (входять до переліку фахових, затверджений МОН)
Divisions:	Це архівні підрозділи Київського університету імені Бориса Грінченка > Факультет інформаційних технологій та математики > Кафедра інформаційної та кібернетичної безпеки імені професора Володимира Бурячка
Depositing User:	Павло Миколайович Складанний
Date Deposited:	14 Dec 2023 10:12
Last Modified:	14 Dec 2023 10:12
URI:	https://elibrary.kubg.edu.ua/id/eprint/47838

Actions (login required)

View Item