Разработка программного средства защиты генерации данных для машинного обучения

Введение. В статье рассматривается задача разработки программного средства защиты генерации данных для машинного обучения. Актуальность темы обусловлена тем, что синтетические данные всё чаще применяются для обучения и тестирования моделей, однако процесс их генерации может сопровождаться рисками раскрытия конфиденциальной информации, запоминания исходных записей генеративной моделью и нарушения требований к управлению данными.

Материалы и методы. Для проведения исследования использованы теоретический анализ публикаций по синтетическим данным, дифференциальной приватности, управлению рисками искусственного интеллекта и защите данных, а также проектный подход к построению программного средства на основе модулей классификации признаков, приватизации, генерации, аудита и принятия решения о публикации.

Результаты и обсуждение. Описана структура программного средства SynthGuard-ML, предназначенного для безопасной генерации данных для машинного обучения. Представлены уровни контроля защиты данных, общая схема работы средства, требования к защите данных и алгоритмы обработки исходного набора, формирования защищённого представления, генерации синтетических данных и проверки результата.

Заключение. Полученные результаты показывают, что предложенное программное средство позволяет организовать защищённый конвейер генерации данных, при котором синтетический набор публикуется только после проверки приватности, полезности и соответствия заданной политике безопасности. 

1. Jordon J., Szpruch L., Houssiau F., Bottarelli M., Cherubin G., Maple C., Cohen S. N., Weller A. Synthetic Data – what, why and how? ArXiv preprint. 2022. arXiv:2205.03257. [Электронный ресурс]. URL: https://arxiv.org/abs/2205.03257 (дата обращения: 01.04.2026).

2. Houssiau F., Cohen S. N., Szpruch L., Daniel O., Lawrence M. G., Mitra R., Wilde H., Mole C. A Framework for Auditable Synthetic Data Generation. ArXiv preprint. 2022. arXiv:2211.11540. [Электронный ресурс]. URL: https://arxiv.org/abs/2211.11540 (дата обращения: 01.04.2026).

3. Giomi M., Boenisch F., Wehmeyer C., Tasnádi B. A Unified Framework for Quantifying Privacy Risk in Synthetic Data. ArXiv preprint. 2022. arXiv:2211.10459. [Электронный ресурс]. URL: https://arxiv.org/abs/2211.10459 (дата обращения: 01.04.2026).

4. Hassan C., Salomone R., Mengersen K. Deep Generative Models, Synthetic Tabular Data, and Differential Privacy: An Overview and Synthesis. ArXiv preprint. 2023. arXiv:2307.15424. [Электронный ресурс]. URL: https://arxiv.org/abs/2307.15424 (дата обращения: 01.04.2026).

5. van Breugel B., Sun H., Qian Z., van der Schaar M. Membership Inference Attacks against Synthetic Data through Overfitting Detection. ArXiv preprint. 2023. arXiv:2302.12580. [Электронный ресурс]. URL: https://arxiv.org/abs/2302.12580 (дата обращения: 01.04.2026).

6. National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0). 2023. [Электронный ресурс]. URL: https://tsapps.nist.gov/publication/get_pdf.cfm?pub_id=958388 (дата обращения: 01.04.2026).

7. ISO/IEC 42001:2023. Information technology – Artificial intelligence – Management system. 2023. [Электронный ресурс]. URL: https://www.iso.org/standard/42001 (дата обращения: 01.04.2026).

8. Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence. Artificial Intelligence Act. 2024. [Электронный ресурс]. URL: https://eur-lex.europa.eu/eli/reg/2024/1689/oj (дата обращения: 01.04.2026).

9. National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. 2024. [Электронный ресурс]. URL: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (дата обращения: 01.04.2026).

10. OWASP Foundation. OWASP Top 10 for Large Language Model Applications. Version 2025. 2025. [Электронный ресурс]. URL: https://genai.owasp.org/resource/owasp-top-10-for-llm-applications2025/ (дата обращения: 01.04.2026).