ІННОВАЦІЙНА ЕКОНОМІКА

Дзюбановська Н.В. ШТУЧНИЙ ІНТЕЛЕКТ ДЛЯ ВИЯВЛЕННЯ ФЕЙКОВОЇ ІНФОРМАЦІЇ: МІЖНАРОДНІ ТРЕНДИ І МОЖЛИВОСТІ ІМПЛЕМЕНТАЦІЇ

Мета. Аналіз сучасних міжнародних тенденцій у використанні штучного інтелекту (ШІ) для виявлення фейкової інформації, дослідження основних методів і технологій, що застосовуються для цього, а також оцінювання можливостей імплементації таких рішень у системи інформаційної безпеки.

Методика дослідження. Теоретичною та методологічною основою дослідження є наукові праці вчених із питань застосування штучного інтелекту для виявлення фейкової інформації, а також дослідження в галузі машинного навчання та аналізу текстових і мультимедійних даних. У процесі дослідження використовувалися загальнонаукові та спеціальні методи. Зокрема, аналіз літератури та огляд досліджень дозволили вивчити сучасні міжнародні тренди у сфері застосування ШІ для виявлення фейкових новин; порівняльний аналіз існуючих рішень дав змогу оцінити ефективність таких методів, як аналіз текстів, машинне навчання, відстеження аномалій, аналіз мультимедійного контенту та виявлення ботів для боротьби з дезінформацією.

Результати дослідження. Визначено зміст поняття «системи виявлення фейкової інформації на основі штучного інтелекту», під якою розуміється інтегрована система, що використовує автоматизовані алгоритми для аналізу та верифікації інформації, спрямована на боротьбу з дезінформацією. Основним завданням такої системи є виявлення фейкових новин через використання методів машинного навчання, аналізу текстів, відстеження аномалій та аналізу мультимедійного контенту, що дозволяє підвищити точність і швидкість ідентифікації фейкових повідомлень. Ідентифіковано основні виклики, пов’язані з поширенням дезінформації, які вимагають нових підходів у застосуванні ШІ: зростання обсягу даних, поява нових форм фейків, розвиток дезінформаційних кампаній та необхідність швидкої реакції на них. Проведено аналіз міжнародних практик застосування штучного інтелекту для виявлення фейкової інформації, у результаті чого узагальнено основні принципи використання алгоритмів для автоматичного аналізу даних, навчання моделей, виявлення ботів та відстеження аномальних поведінкових патернів.

Наукова новизна результатів дослідження. Набув подальшого розвитку технологічний зміст поняття «система виявлення фейкової інформації на основі штучного інтелекту», що включає використання машинного навчання, аналізу текстів, відстеження аномалій та аналізу мультимедійного контенту для ефективного виявлення дезінформації. Обґрунтовано основні напрямки застосування штучного інтелекту для ідентифікації фейкових новин і визначено їхню ефективність у вирішенні проблем інформаційної безпеки та боротьби з дезінформаційними кампаніями на міжнародному рівні. Узагальнено практики виявлення фейків, які можуть бути адаптовані для різних контекстів, що робить систему більш гнучкою та адаптивною.

Практична значущість результатів дослідження. Результати дослідження мають важливе практичне значення і можуть бути використані для розробки нових інноваційних рішень у сфері виявлення фейкової інформації. Це дозволить медіаплатформам, державним та приватним організаціям підвищити точність і швидкість ідентифікації дезінформації. Зменшення поширення фейкових новин сприятиме забезпеченню інформаційної безпеки. Дослідження може стати важливим ресурсом для розробки державних стратегій у сфері протидії дезінформації, а також корисним для компаній, що займаються моніторингом інформаційних потоків і кібербезпекою, у їхній роботі щодо запобігання дезінформації та захисту суспільства від негативних інформаційних впливів.

Ключові слова: ШІ, фейкова інформація, машинне навчання, аналіз текстів, виявлення ботів, відстеження аномалій, інформаційна безпека, дезінформація, мультимедійний контент, міжнародні тренди.

Dziubanovska N.V. ARTIFICIAL INTELLIGENCE FOR DETECTING FAKE INFORMATION: INTERNATIONAL TRENDS AND IMPLEMENTATION OPPORTUNITIES

Purpose. The purpose of the article is the analysis of current international trends in the use of artificial intelligence (AI) to detect fake information, the study of the main methods and technologies used for this, as well as the assessment of the possibilities of implementing such solutions in the systems of information security.

Methodology of research. The theoretical and methodological foundation of the study is based on scientific works by researchers on the application of artificial intelligence for detecting fake information, as well as studies in machine learning and the analysis of textual and multimedia data. General scientific and special methods were used during the research process. In particular, literature analysis and research reviews enabled the study of current international trends in the application of AI for detecting fake news. Comparative analysis of existing solutions allowed for the assessment of the effectiveness of methods such as text analysis, machine learning, anomaly detection, multimedia content analysis, and bot detection in combating disinformation.

Findings. The content of the concept of “AI-based fake information detection systems” has been defined, understood as an integrated system that employs automated algorithms to analyze and verify information aimed at combating disinformation. The main task of such a system is to identify fake news through the use of machine learning methods, text analysis, anomaly tracking, and multimedia content analysis, which enhances the accuracy and speed of identifying fake messages. The main challenges associated with the spread of disinformation have been identified, requiring new approaches in the application of AI: the growing volume of data, the emergence of new forms of fakes, the development of disinformation campaigns, and the necessity for rapid response to them. An analysis of international practices in applying artificial intelligence for detecting fake information has been conducted, resulting in the generalization of the main principles for using algorithms for automatic data analysis, model training, bot detection, and tracking anomalous behavioral patterns.

Originality. The technological content of the concept of “AI-based fake information detection systems” has been further developed, encompassing the use of machine learning, text analysis, anomaly tracking, and multimedia content analysis for effective disinformation detection. The main areas of application of artificial intelligence for identifying fake news have been substantiated, and their effectiveness in addressing information security issues and combating disinformation campaigns at the international level has been determined. Practices for detecting fake news have been generalized, which can be adapted for different contexts, making the system more flexible and adaptive.

Practical value. The research results have significant practical implications and can be used to develop new innovative solutions in the field of fake information detection. This will allow media platforms, government, and private organizations to enhance the accuracy and speed of disinformation identification. Reducing the spread of fake news will contribute to ensuring information security. The research may serve as an important resource for developing government strategies in combating disinformation and could also be useful for companies involved in monitoring information flows and cybersecurity in their efforts to prevent disinformation and protect society from negative informational impacts.

Key words: AI, fake information, machine learning, text analysis, bot detection, anomaly tracking, information security, disinformation, multimedia content, international trends.

Тищенко В. Аналіз методів навчання та інструментів нейромереж для виявлення фейків. Кібербезпека: освіта, наука, техніка. 2023. № 4(20). С. 20-34. DOI: https://doi.org/10.28925/2663-4023.2023.20.2034.

Праздніков В. О., Сугоняк І. І. Моделі та методи машинного навчання для розпізнавання фейкового контенту. Технічна інженерія. 2023. № 2(92). С. 131-136. DOI: https://doi.org/10.26642/ten-2023-2(92)-131-136.

Боровик Д., Бармак О. Удосконалений метод виявлення фейкових новин на основі використання CNN нейромережі. Вісник Хмельницького національного університету. 2023. Том 2. № 5. С. 19-24. DOI: 10.31891/2307-5732-2023-327-5-19-24.

Дацик С. В. Використання штучного інтелекту для виявлення дезінформації в новинах соціальної мережі Facebook : кваліфікаційна робота на здобуття освітнього ступеня магістр за спеціальністю 122 – комп’ютерні науки. Тернопіль : ТНТУ, 2024. 90 с.

Рабчун Д. І., Тищенко В. С., Голобородько С. О. Ефективне розпізнавання дезінформації за допомогою нейронних мереж: фокус на виявлення емоційного впливу. Телекомунікаційні та інформаційні технології. 2024. № 2(83). С. 37-48. DOI: 10.31673/2412-4338.2024.024860.

Дерюгін І. К., Батько І. І. Інформаційно-психологічні атаки як загроза державній безпеці. Аналітично-порівняльне правознавство. 2023. № 05. С. 315-319. DOI: https://doi.org/10.24144/2788-6018.2023.05.57.

Оновлення кодексу ЄС щодо боротьби з дезінформацією: основні положення. URL: https://jurliga.ligazakon.net/news/212519_onovlennya-kodeksu-s-shchodo-borotbi-z-deznformatsyu-osnovn-polozhennya (дата звернення: 02.08.2024).

Сучасні методи виявлення фейків у соціальних мережах. URL: https://optima.study/blog/suchasni-metodi-viyavlennya-feykiv-u-socialnih-merezhah. (дата звернення: 02.08.2024).

Guy Rosen. How We’re Tackling Misinformation Across Our Apps. URL: https://about.fb.com/news/2021/03/how-were-tackling-misinformation-across-our-apps/ (дата звернення: 02.08.2024).

Keith Coleman. Introducing Birdwatch, a community-based approach to misinformation. URL: https://blog.x.com/en_us/topics/product/2021/introducing-birdwatch-a-community-based-approach-to-misinformation (дата звернення: 02.08.2024).

Google’s approach to fighting misinformation online. URL: https://safety.google/intl/en_uk/stories/fighting-misinformation-online/ (дата звернення: 02.08.2024).