Загрози та ризики використання штучного інтелекту

Скіцько, О. та Складанний, Павло Миколайович та Ширшов, Р. та Гуменюк, М. та Ворохоб, Максим Віталійович (2023) Загрози та ризики використання штучного інтелекту Електронне фахове наукове видання «Кібербезпека: освіта, наука, техніка» (2(22)). с. 6-18. ISSN 2663-4023

Текст P_Skladannyi_M_Vorokhob_ta_in_Kibebezpeka_2_22_2023_FITM.pdf Download (830kB)

Анотація

В статті аналізуються переваги застосування Штучного Інтелекту (ШІ) в різних галузях та ризики впливу на виконання завдань забезпечення інформаційної безпеки та кібербезпеки, як невід’ємних складових національної безпеки. Визначено, що розвиток ШІ став ключовим пріоритетом для багатьох країн, та водночас, виникли питання щодо безпечності цієї технології та наслідків її використання. Поширення сфери застосування ШІ на об’єкти критичної інфраструктури, складність верифікації створених цими системами інформаційних ресурсів та рішень, загрози небезпечного впливу результатів їхнього функціонування на безпеку людини, суспільства та держави призводить до виникнення ризиків, пов’язаних з використанням ШІ. Відсутність прозорих методів перевірки запропонованих систем ШІ висновків та рекомендацій утворює джерело невизначеності щодо їх вірності і практичної цінності. Це фактично означає, що системи ШІ можуть бути частиною сукупності заходів інформаційної війни, які спрямовані на поширення сумнівних неперевірених відомостей та звичайних фейків. Застосування технології штучного інтелекту здатне покращити рівень комп’ютерної безпеки. В роботі розглядається механізм оцінки ризиків від використання ШІ в різних галузях та способи їх обробки. Запропоновані підходи до використання системи штучного інтелекту для ідентифікації та оцінки ризиків, які виникають як наслідок використання систем штучного інтелекту. Штучний інтелект відіграє ключову роль у забезпеченні національної безпеки, а його застосування в різних галузях сприяє покращенню ефективності, проте, існує нагальна потреба в розробці механізмів оцінки ризиків використання систем штучного інтелекту. Визначено, що одним з найважливіших заходів є створення системи управління ризиками штучного інтелекту, на якому має базуватися регуляторна політика держави у цій галузі.

Тип елементу :	Стаття
Ключові слова:	штучний інтелект; національна безпека; оцінка ризиків; управління ризиками
Типологія:	Це архівна тематика Київського університету імені Бориса Грінченка > Статті у журналах > Фахові (входять до переліку фахових, затверджений МОН)
Підрозділи:	Це архівні підрозділи Київського університету імені Бориса Грінченка > Факультет інформаційних технологій та математики > Кафедра інформаційної та кібернетичної безпеки імені професора Володимира Бурячка
Користувач, що депонує:	Павло Миколайович Складанний
Дата внесення:	14 Груд 2023 10:12
Останні зміни:	14 Груд 2023 10:12
URI:	https://elibrary.kubg.edu.ua/id/eprint/47838

Actions (login required)

Перегляд елементу