ЖУРНАЛ БІЗНЕС ІНФОРМ.

УКР

ENG

Пошук:

СВІДОЦТВО ПРО РЕЄСТРАЦІЮ

КВ №19905-9705 ПР від 02.04.2013 р.

ЗАСНОВНИКИ

НАУКОВО-ДОСЛІДНИЙ ЦЕНТР ІНДУСТРІАЛЬНИХ ПРОБЛЕМ РОЗВИТКУ НАН УКРАЇНИ
(ХАРКІВ, УКРАЇНА)

ROR

ЕДРПОУ 05481984

Згідно з рішенням № 802 Національної ради України з питань телебачення і радіомовлення від 14.03.2024 р. зареєстрований суб’єктом у сфері друкованих медіа. Ідентифікатор R30-03156

ВИДАВЕЦЬ

ФОП Лібуркіна Л. М.

КАТАЛОГ

Удосконалення систем управління підприємством для забезпечення конфіденційності даних в умовах застосування інструментів штучного інтелекту
Добосевич Я. В., Шпак Н. О.

Добосевич Я. В., Шпак Н. О. Удосконалення систем управління підприємством для забезпечення конфіденційності даних в умовах застосування інструментів штучного інтелекту. Бізнес Інформ. 2026. №7. C. 551–562.
https://doi.org/10.32983/2222-4459-2026-7-551-562

Розділ: Менеджмент і маркетинг

Стаття написана українською мовою
Завантажень/переглядів: 0

Завантажити статтю (pdf) -

УДК 005.95/.96:004.056:004.8

Анотація:
Метою статті є розробка та емпіричне тестування організаційно-управлінської моделі, що забезпечує баланс між безпекою чутливих даних та їх доступністю для систем машинного навчання (ML) на інноваційному підприємстві. Дослідження закриває прогалину, спричинену тим, що наявні наукові підходи розглядають безпеку даних у ML переважно з технічного та юридичного боку, тоді як організаційно-управлінська інтеграція цих процесів залишається малодослідженою: на перетині інтересів інженерів, які прагнуть максимального доступу до даних, і служби безпеки, яка цей доступ обмежує, виникає системний конфлікт, що уповільнює розробку та підвищує ризик витоків. Методологію дослідження становлять: метод аналітичної ієрархії (МАІ) для калібрування вагових коефіцієнтів інтегральної моделі ефективності управління даними на основі цільової експертної вибірки із 7 фахівців-практиків (технічні директори, керівники ML-команд, директори з інформаційної безпеки); імітаційне моделювання діяльності IT-департаменту з 5 крос-функціональних команд упродовж двох піврічних періодів за контрольним та експериментальним сценаріями; економічне оцінювання доцільності впровадження. За результатами запропоновано виокремити спеціалізовану управлінську роль «AI Data Custodian» і супровідний процесний протокол «Data-Sec-AIOps». Імітаційне моделювання підтвердило гіпотезу: впровадження ролі скоротило час доступу до підготовлених даних (Time-to-Data) на 71% (з 14,5 до 4,2 дня), знизило кількість інцидентів безпеки на 83% (з 12 до 2), зменшило частку неструктурованих даних із 22% до 5% та підвищило середню точність ML-моделей (F1) із 0,74 до 0,86. Інвестиції окуповуються протягом 4–5 місяців, а орієнтовна річна економія для підприємства з 5 ML-командами становить 300 000–440 000 дол. США. Наукова новизна полягає у зміщенні фокусу з технічного блокування доступу на превентивний менеджмент даних через управління впливом (management by influence): Custodian не забороняє доступ, а створює безпечні середовища (secure enclaves), керує анонімізацією та синтетичними даними і виступає єдиним центром відповідальності за життєвий цикл даних для ML, маючи операційну, на відміну від CDO та DPO, природу. Практична цінність дослідження – дорожня карта впровадження ролі з п’яти фаз (діагностика – дизайн – технологічне забезпечення – пілот – масштабування) та система з п’яти KPI для вимірювання її ефективності; запропонований підхід може слугувати методологічною основою для побудови систем data governance на українських інноваційних підприємствах, що інтегруються в європейський регуляторний простір згідно з вимогами GDPR і AI Act.

Ключові слова: конфіденційність даних; машинне навчання; система управління підприємством; AI Data Custodian; організаційно-управлінська модель; кібербезпека; data governance; штучний інтелект.

Рис.: 1. Табл.: 2. Формул: 2. Бібл.: 40.

Добосевич Ярослав Володимирович – аспірант, кафедра менеджменту та міжнародного підприємництва, Національний університет «Львівська політехніка» (вул. Степана Бандери, 12, Львів, 79013, Україна)
Email: [email protected]
Шпак Нестор Омелянович – доктор економічних наук, професор, професор, кафедра менеджменту і міжнародного підприємництва, Національний університет «Львівська політехніка» (вул. Степана Бандери, 12, Львів, 79013, Україна)
Email: [email protected]

Список використаних у статті джерел

IDC. Worldwide Global DataSphere Forecast, 2024–2028: AI Everywhere, But Upsurge in Data Will Take Time. International Data Corporation, 2024.
IBM Security & Ponemon Institute. Cost of a Data Breach Report 2024. Armonk, NY : IBM Corporation, 2024. URL: https://www-api.ibm.com/adobe/assets/urn:aaid:aem:c4711149-da99-4654-9114-8ee524108540/original/as/cost_of_a_data_breach_report_2024.pdf
Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data (General Data Protection Regulation). Official Journal of the European Union. 2016. L 119. P. 1–88. URL: https://eur-lex.europa.eu/eli/reg/2016/679/oj/eng
Mayer-Schonberger V., Cukier K. Big Data: A Revolution That Will Transform How We Live, Work, and Think. Boston : Houghton Mifflin Harcourt, 2013. 256 p.
Park K. Samsung bans use of generative AI tools like ChatGPT after April internal data leak. TechCrunch. 2 May 2023. URL: https://techcrunch.com/2023/05/02/samsung-bans-use-of-generative-ai-tools-like-chatgpt-after-april-internal-data-leak/
McMahan H. B., Moore E., Ramage D., et al. Communication-Efficient Learning of Deep Networks from Decentralized Data. Proceedings of the 20th International Conference on Artificial Intelligence and Statistics (AISTATS). PMLR, 2017. Vol. 54. P. 1273–1282. URL: https://proceedings.mlr.press/v54/mcmahan17a/mcmahan17a.pdf
Bonawitz K., Ivanov V., Kreuter B., at al. Practical Secure Aggregation for Privacy-Preserving Machine Learning. Proceedings of the 2017 ACM SIGSAC Conference on Computer and Communications Security (CCS). 2017. P. 1175–1191. DOI: https://doi.org/10.1145/3133956.3133982
Dwork C., Roth A. The Algorithmic Foundations of Differential Privacy. Foundations and Trends in Theoretical Computer Science. 2014. Vol. 9. Iss. 3–4. P. 211–487. DOI: https://doi.org/10.1561/0400000042
Abadi M., Chu A., Goodfellow I., McMahan H. B., et al. Deep Learning with Differential Privacy. Proceedings of the 2016 ACM SIGSAC Conference on Computer and Communications Security (CCS). 2016. P. 308–318. DOI: https://doi.org/10.1145/2976749.2978318
Shokri R., Stronati M., Song C., Shmatikov V. Membership Inference Attacks Against Machine Learning Models. 2017 IEEE Symposium on Security and Privacy (SP). 2017. P. 3–18. DOI: https://doi.org/10.1109/SP.2017.41
Papernot N., McDaniel P., Sinha A., Wellman M. P. SoK: Security and Privacy in Machine Learning. 2018 IEEE European Symposium on Security and Privacy (EuroS&P). 2018. P. 399–414. DOI: https://doi.org/10.1109/EuroSP.2018.00035
Goodfellow I. J., Shlens J., Szegedy C. Explaining and Harnessing Adversarial Examples. International Conference on Learning Representations (ICLR). 2015. DOI: https://doi.org/10.48550/arXiv.1412.6572
Biggio B., Roli F. Wild patterns: Ten years after the rise of adversarial machine learning. Pattern Recognition. 2018. Vol. 84. P. 317–331. DOI: https://doi.org/10.1016/j.patcog.2018.07.023
Carlini N., Tramer F., Wallace E., et al. Extracting Training Data from Large Language Models. 30th USENIX Security Symposium. 2021. P. 2633–2650. DOI: https://doi.org/10.48550/arXiv.2012.07805
Rose S., Borchert O., Mitchell S., Connelly S. Zero Trust Architecture. NIST Special Publication 800-207. Gaithersburg, MD : National Institute of Standards and Technology, 2020. DOI: https://doi.org/10.6028/NIST.SP.800-207
Hoofnagle C. J., van der Sloot B., Borgesius F. Z. The European Union general data protection regulation: what it is and what it means. Information & Communications Technology Law. 2019. Vol. 28. Iss. 1. P. 65–98. DOI: https://doi.org/10.1080/13600834.2019.1573501
Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. 12 July 2024. URL: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
Veale M., Borgesius F. Z. Demystifying the Draft EU Artificial Intelligence Act – Analysing the good, the bad, and the unclear elements of the proposed approach. Computer Law Review International. 2021. Vol. 22. Iss. 4. P. 97–112. DOI: https://doi.org/10.9785/cri-2021-220402
ISO/IEC 27001:2022. Information security, cybersecurity and privacy protection – Information security management systems – Requirements. Geneva : International Organization for Standardization, 2022.
ISO/IEC 27701:2019. Security techniques – Extension to ISO/IEC 27001 and ISO/IEC 27002 for privacy information management – Requirements and guidelines. Geneva : ISO, 2019.
NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Gaithersburg, MD : National Institute of Standards and Technology, 2023. DOI: https://doi.org/10.6028/NIST.AI.100-1
Закон України «Про захист персональних даних» від 01.06.2010 р. № 2297-VI. URL: https://zakon.rada.gov.ua/laws/show/2297-17#Text
Закон України «Про основні засади забезпечення кібербезпеки України» від 05.10.2017 р. № 2163-VIII. URL: https://zakon.rada.gov.ua/laws/show/2163-19#Text
Floridi L., Cowls J. A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review. 2019. Vol. 1. Iss. 1. DOI: https://doi.org/10.1162/99608f92.8cd550d1
Brundage M., Avin S., Clark J., Toner H., et al. The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. arXiv:1802.07228. 2018. DOI: https://doi.org/10.48550/arXiv.1802.07228
Davenport T. H., Ronanki R. Artificial Intelligence for the Real World. Harvard Business Review. 2018. Vol. 96. Iss. 1. P. 108–116. URL: https://academichelptoday.com/assets/documents/Artificial_Intelligence_for_the_Real_World_-_HBR.pdf
O’Neil C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York : Crown Publishing Group, 2016. 272 p.
Zuboff S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York : PublicAffairs, 2019. 704 p.
Wang R. Y., Strong D. M. Beyond Accuracy: What Data Quality Means to Data Consumers. Journal of Management Information Systems. 1996. Vol. 12. Iss. 4. P. 5–33. DOI: https://doi.org/10.1080/07421222.1996.11518099
ISO/IEC 25012:2008. Data Quality Model. Geneva : International Organization for Standardization, 2008. 22 p.
Pipino L. L., Lee Y. W., Wang R. Y. Data Quality Assessment. Communications of the ACM. 2002. Vol. 45. Iss. 4. P. 211–218. DOI: https://doi.org/10.1145/505248.506010
Sculley D., Holt G., Golovin D., Davydov E., et al. Hidden Technical Debt in Machine Learning Systems. NIPS'15: Proceedings of the 29th International Conference on Neural Information Processing Systems. 2015. Vol. 2. P. 2503–2511. URL: https://dl.acm.org/doi/10.5555/2969442.2969519
Ereth J. DataOps – Towards a Definition. Proceedings of the 20th International Conference on Enterprise Information Systems (ICEIS). 2018. Vol. 1. P. 267–276. URL: https://ceur-ws.org/Vol-2191/paper13.pdf
NIST SP 800-30 Rev. 1. Guide for Conducting Risk Assessments. Gaithersburg : National Institute of Standards and Technology, 2012. 95 p. DOI: https://doi.org/10.6028/NIST.SP.800-30r1
Mell P., Scarfone K., Romanosky S. A Complete Guide to the Common Vulnerability Scoring System Version 2.0. FIRST.org, 2007. 24 p.
Saaty T. L. The Analytic Hierarchy Process: Planning, Priority Setting, Resource Allocation. New York : McGraw-Hill, 1980. 287 p.
Saaty T. L. Decision Making with the Analytic Hierarchy Process. International Journal of Services Sciences. 2008. Vol. 1. No. 1. P. 83–98. DOI: https://doi.org/10.1504/IJSSCI.2008.017590
Saaty T. L., Vargas L. G. Models, Methods, Concepts & Applications of the Analytic Hierarchy Process. 2nd ed. New York : Springer, 2012. 346 p. DOI: https://doi.org/10.1007/978-1-4614-3597-6
Patton M. Q. Qualitative Research & Evaluation Methods. 3rd ed. Thousand Oaks : Sage Publications, 2002. 598 p.
Forman E., Peniwati K. Aggregating Individual Judgments and Priorities with the Analytic Hierarchy Process. European Journal of Operational Research. 1998. Vol. 108. Iss. 1. P. 165–169. DOI: https://doi.org/10.1016/S0377-2217(97)00244-0