Tillögur um eflingu netöryggis gervigreindar settar fram í nýrri vísindagrein

Vísindagrein um öryggi gervigreindar birtist í gær í sérstakri ritröð fræðiritsins Nature um málefni gervigreindar. Í greininni („Governing AI safety through independent audits“) eru settar fram tillögur um hvernig gera megi átak í að bæta stjórnskipulag öryggis gervigreindar með óháðum úttektum en örugg notkun gervigreindar ein megináskorun netöryggis samtímans. 

Aðalhöfundur greinarinnar er Dr. Gregory Falco sem hefur dvalið á Íslandi undanfarið ár sem Fulbright fræðimaður og m.a. kennt námskeið um netöryggi við Háskóla Íslands. 19 vísindamenn frá ýmsum löndum lögðu fram efni í greinina, þ.á m. Dr. Sigurður Emil Pálsson, sérfræðingur ráðuneytisins og formaður Netöryggisráðs.

Í greininni er lagt er til að öll tækni sem byggist á gervigreind verði tekin út og vottuð af óháðum aðilum á grunni viðurkenndrar aðferðafræði. Í greininni er þessu lýst nánar svo: „… independent audit of AI systems would embody three ‘AAA’ governance principles of prospective risk Assessments, operation Audit trails and system Adherence to jurisdictional requirements. Independent audit of AI systems serves as a pragmatic approach to an otherwise burdensome and unenforceable assurance challenge.“

Ritröðin sem greinin birtist í nefnist Nature Machine Intelligence. Greinin er öllum aðgengileg til lestrar án endurgjalds á vefnum, en til að vista eða prenta greinina þarf greiðslu eða áskrift.

Í febrúar gekkst ráðuneytið fyrir alþjóðlegri vefráðstefnu um netöryggisáskoranir gervigreindar en þar fluttu 4 vísindamenn erindi um rannsóknir sínar og starf á því sviði. Dr. Gregory Falco var einn þeirra sem flutti erindi á ráðstefnunni.

• „Governing AI safety through independent audits“ - vísindagrein í Nature Machine Intelligence
• Alþjóðleg vefráðstefna um netöryggisáskoranir gervigreindar (4. febrúar 2021)
• Skýrsla ENISA um netöryggisógnir gervigreindar (birt 15. desember 2020)