Анализируя основные тенденции в области кибербезопасности за последнее время и определяя действия, которые должны предпринять руководители служб информационной безопасности (CISO) для обеспечения безопасного внедрения генеративного искусственного интеллекта в своих организациях, эксперты, участвовавшие в саммите Gartner по безопасности и управлению рисками, который состоялся в Сиднее, Австралия, обратили внимание на то, что эта новая технология потребует дополнительной осторожности и развития новых возможностей в области кибербезопасности, что потенциально может привести к увеличению объема инвестиций в кибербезопасность до 15%.
Выступая на эту тему, старший аналитик Gartner Ричард Аддискотт пояснил, что руководителям служб информационной безопасности необходимо обновить методы обеспечения безопасности приложений и данных, чтобы интегрировать новые уязвимости, такие как подсказки или уровни оркестровки, для оснащения моделей искусственного интеллекта.
По словам Фернандо Гимарайнша, руководителя подразделения Stone Age, занимающегося вопросами кредитования и борьбы с мошенничеством в компании TIVIT, эта оценка может быть даже заниженной, учитывая, что, помимо необходимости защиты приложений, работающих с генеративным ИИ, наблюдается растущая тенденция интеграции генеративного ИИ в инструменты борьбы с мошенниками. Преимущества генеративного ИИ неоспоримы и обладают огромным потенциалом роста; однако эти преимущества должны сопровождаться тщательными инвестициями в кибербезопасность. «В большинстве случаев конечный результат будет очень позитивным, но бесплатного сыра не бывает», — говорит Гимарайнш.
Он упоминает, что этот шаг был предпринят самой компанией Stone Age путем внедрения в свои решения генеративного искусственного интеллекта Athena, разработанного компанией TIVIT. В начале 2024 года эта технология начала предлагаться в качестве новой функции в Identify, продукте, ориентированном на проверку личности в процессах регистрации и продаж.
Запущенная в декабре прошлого года компанией TIVIT система Athena позволяет Identify, помимо прочего, автоматически за 30 секунд интеллектуально считывать данные из учредительных документов компании. Кроме того, она извлекает структурированную информацию из этих документов, которая немедленно преобразуется в аналитические данные для обработки в системе, что позволяет принимать более эффективные и быстрые решения.
Гимарайнш отмечает, что внедрение Athena открывает для Identify новые функциональные возможности, которые делают использование инструмента гораздо более полным. На практике, по его словам, компания теперь имеет версию 2.0, которая может развиваться с точки зрения операционной эффективности, за счет сокращения ручного вмешательства, повышения уверенности в принимаемых решениях и снижения затрат, а также возможности работы с меньшими командами обслуживания клиентов и аналитиков.
«Я считаю, что этот вид преимуществ можно распространить на различные другие решения, представленные на рынке. Поэтому, учитывая выгоды, которые генеративный ИИ приносит в кибербезопасность, увеличение инвестиций в расширение использования этой технологии становится полностью оправданным», — заключает он.
Альтернативным способом более безопасного использования ИИ является применение решений, настраиваемых под нужды компании. По словам Даниэля Галанте, директора по коммерческим вопросам и директора по продуктам TIVIT, ИИ делает процессы и компании более гибкими; однако его необходимо использовать очень осторожно. «Представьте себе крупную юридическую фирму, обслуживающую важных клиентов, где все юристы вводят данные о клиентах и делах в полностью открытую среду, которая может стать общедоступной. Это может создать серьезную проблему, поскольку эти данные будут раскрыты широкой публике. Альтернативой является использование настраиваемого генеративного ИИ, такого как Athena, где клиент может выбирать, какие базы данных запрашивать, отображать все данные только в заранее определенных местах и ограничивать доступ тем, кто действительно должен ими обладать. Это лучший способ использования ИИ, обеспечивающий предлагаемую им гибкость, но в то же время необходимую безопасность для подобного процесса», — говорит Галанте.
