Tutkijat ovat kehittäneet uudenlaisen, aiemmin näkemättömän haittaohjelman, jota he kutsuvat ”Morris II” -madoiksi. Tämä mato käyttää suosittuja tekoälypalveluita leviääkseen, tartuttaakseen uusia järjestelmiä ja varastaakseen tietoja. Nimi viittaa alkuperäiseen Morris-tietokonematoon, joka aiheutti tuhoa internetissä vuonna 1988. Mato osoittaa tekoälyn turvallisuusuhkien mahdolliset vaarat ja luo uuden kiireellisyyden tekoälymallien suojaamiseen.
Cornell Techin, Israelin teknologiainstituutin ja Intuitin tutkijat käyttivät niin sanottua ”vihollismielistä itsestään toistuvaa kehotetta” madon luomiseen. Tämä on kehote, joka, kun se syötetään suureen kieliaineistomalliin (LLM) (he testasivat sitä OpenAIn ChatGPT:ssä, Googlen Geminissä ja avoimen lähdekoodin LLaVA-mallissa, jonka kehittivät Wisconsin-Madisonin yliopiston, Microsoft Researchin ja Columbian yliopiston tutkijat), huijaa mallia luomaan lisäkehotteen. Se laukaisee chatbotin tuottamaan omia haitallisia kehotteitaan, joihin se sitten vastaa suorittamalla nämä ohjeet (samankaltaisesti kuin SQL-injektio- ja puskurin ylivuotohyökkäykset).
