Google, OpenAI, Microsoft, Amazon, Nvidia, Intel și alte companii de renume din domeniul inteligenței artificiale (AI) se unesc pentru a forma Coaliția pentru Securitatea AI (CoSAI), conform unui anunț făcut joi.
Inițiativa are ca scop abordarea unui „peisaj fragmentat al securității AI” prin oferirea accesului la metodologii, cadre și instrumente open-source.
Nu se știe încă cât de mare va fi impactul CoSAI asupra industriei AI, însă preocupările legate de scurgerile de informații confidențiale și discriminarea automatizată sunt exemple de întrebări privind securitatea, confidențialitatea și siguranța tehnologiei AI generative.
Alte companii care se alătură CoSAI includ IBM, PayPal, Cisco și Anthropic. CoSAI va funcționa în cadrul Organizației pentru Promovarea Standardelor Structurate de Informații (OASIS), un grup nonprofit care promovează dezvoltarea standardelor deschise.
CoSAI va lucra la trei obiective inițiale: dezvoltarea celor mai bune practici pentru securitatea AI; abordarea provocărilor în domeniul AI; și securizarea aplicațiilor AI.
„Folosim AI de mulți ani și vedem potențialul continuu pentru apărători, dar recunoaștem și oportunitățile pe care le oferă pentru adversari,” a declarat Heather Adkins, vicepreședinte al securității la Google, într-un comunicat.
„CoSAI va ajuta organizațiile, mari și mici, să integreze AI în mod sigur și responsabil – ajutându-le să valorifice beneficiile sale, reducând în același timp riscurile.”
