Die snelle aanvaarding van Generatiewe Kunsmatige Intelligensie (Gen KI) in maatskappye herdefinieer prosesse, maak innovasies moontlik en dryf outomatisering aan. Volgens 'n onlangse studie deur Bloomberg Intelligence, sal die groeikoers van KI in die komende dekade 42% per jaar wees – dit verdubbel byna sy bereik. Tog egter hang die sukses van hierdie oplossings af van sorgvuldige bestuur van die data wat hierdie modelle voed. Hier kom die kubersekuriteit in, ’n belangrike element vir die beskerming van privaatheid en die integriteit van inligting.
Die Generatiewe KI gaan verder as tradisionele KI-modelle wat slegs gedrag klassifiseer of voorspel, omdat dit nuwe inhoud soos teks, beelde en kode skep. Da capacidade de inovação maak nuwe moontlikhede in verskeie sektore oop, maar vereis ’n sorgsame benadering ten opsigte van die gebruik en veiligheid van data, en dit word deur die mense wat die tegnologie daagliks gebruik, erken. Volgens die Developer Survey 2024-ondersoek van Stack Overflow is een van die hoofuitdagings (31,5%) van werk met KI die gebrek aan behoorlike beleid om sekuriteitsrisiko's te verminder.
In hierdie sin is dieTegniese produkbestuurderJoão Batista, verantwoordelik vir die StackSpot AI-platform van Zup, verduidelik dat maatskappye streng sekuriteitsmaatreëls moet implementeer om hierdie risiko's te verminder, aangesien kubermisdade al hoe meer gesofistikeerd raak en teen 2025 tot 10,5 triljoen dollar kan kos, volgens die Cyber Security Almanac.
“Om te verseker dat KI-modelle veilig en eties funksioneer, vereis 'n veelsydige benadering wat sterk enkripsie, effektiewe databestuur, streng privaatheidspraktyke en streng toegangskontroles tydens modelopleiding kombineer. As ons fokus op maatskappye wat tegnologie bou, kan 'n KI-aangedrewe sagteware-ontwikkelingsassistent wat in sekuriteit opgelei is, die span ondersteun om te verseker dat die kode veilige kodering se beste praktyke volg. Dit is byvoorbeeld 'n voorspellende kwesbaarheid identifikasie meganisme. Die pad is toenemend om aan 'n gesamentlike strategie te dink wat innovasie, sekuriteit en databeskerming beskou as 'n noodsaaklike driepoot vir die toepassing van hierdie tipe tegnologie”, beklemtoon João Batista.
Regarding legislation, Henrique Flôres, co-fundador da Contraktor e líder do desenvolvimento do CK Reader, IA da startup, explica que “enquanto aguardamos uma legislação para melhor regulamentar o uso da I.A. Generativa, compete aos profissionais de tecnologia zelar pela aplicação de boas práticas de criptografia, anonimização de dados e políticas de governança de t.i. que possam garantir o equilíbrio dos interesses comerciais das partes, a transparência nos mecanismos de treinamento de algoritmos e o uso ético na manipulação dos dados”.
Alhoewel sy erken dat innovering met opkomende tegnologieë, soos Generatiewe Kunsmatige Intelligensie, 'n unieke geleentheid vir transformasie is, beklemtoon Giovanna Rossi, CPO van Rethink, 'n tegnologie-, ontwerp- en strategieskonsultasie, dat dit nie moontlik is om te ontken dat dit gepaard gaan met beduidende risiko's nie, soos die blootstelling van sensitiewe inligting en die moontlikheid van gesofistikeerde kubermisdade. As verantwoordelike vir die digitale produkte-afdeling sien ek hoe belangrik dit is dat leierskap 'n strategiese benadering tot die gebruik van KI prioriseer om sulke risiko's te verminder. Ons het die verantwoordelikheid om hierdie tegnologie op 'n etiese en veilige wyse te vorm, en te verseker dat die impak daarvan positief en volhoubaar is vir almal, sê die uitvoerende hoof.
Brasilië het 'n hoë volume data wat op die internet rondbeweeg en 'n versnelde digitaliseringsproses. Wat betref die beskerming van handelsmerke, waarsku Diego Daminelli, CEO van BrandMonitor, 'n pionier en spesialis in die bestryding van oneerlike mededinging in die digitale omgewing, dat die Brasiliaanse sekuriteitsinfrastruktuur nog stadig vorder, wat die land een van die grootste teikens van kuberaanvalle wêreldwyd maak, met 'n groter verfyning van die aanvalle deur die misdadigers. Die veiligheidskultuur is nog steeds 'n min of meer onbelangrike onderwerp vir baie maatskappye, wat nie KI gebruik nie, maar verouderde tegnologieë, wat hulle kwesbaar kan maak vir aanvalle en nie in staat is om die digitale teenwoordigheid van die handelsmerk in sy volle omvang te monitor nie.
Die deskundige gee die voorbeeld vanuitvissing, groot probleem vir sektore soos kleinhandel en dienste. Die advertensies word op digitale platforms uitgereik met die volledige identiteit van 'n handelsmerk en belowe onrealistiese afslag. Hierdie advertensie lei na 'n bladsy wat die amptelike uitleg van die maatskappy naboots, maar met 'n ander adres. Op hierdie bladsy word produkte of dienste aangebied teen 'n uiters lae prys, wat die kliënt tot aankoop aanhits, eindig.
