![](https://procomputing.cz/wp-content/uploads/2023/07/proc_ilust_2-1920x1241.jpg)
Google Bard vs. ChatGPT a phishing, Bard se nepoučil
Generativní umělá inteligence je podmnožinou AI modelů a dokáže samostatně generovat text, obrázky, hudbu nebo videa. V řadě oborů způsobila revoluci, ale také vyvolala obavy a etické otázky. Například co se týče jejího zneužití kyberzločinci.
Výzkumný tým kyberbezpečnostní společnosti Check Point Software Technologies opakovaně upozorňuje, jak kyberzločinci využívají OpenAI ChatGPT ke škodlivým účelům a vytváření škodlivého kódu. V nejnovější zprávě Check Point analyzoval také generativní AI platformu Google Bard.
Výzkumníci se pokusili ověřit, zda je možné Google Bard zneužít k vytvoření phishingového e-mailu, malwaru a ransomwaru a také porovnali Google Bard a ChatGPT.
Co se podařilo vytvořit pomocí Google Bard?
- Phishingové e-maily
- Špionážní malware
- Základní ransomwarový kód
Při porovnání bezpečnostních opatření v ChatGPT a Google Bard vyzkoušel Check Point nejdříve nejjednodušší požadavek na vytvoření phishingového e-mailu. Žádost odmítli ChatGPT i Bard.
ChatGPT
![](https://procomputing.cz/wp-content/uploads/2023/07/chat_1.png)
Google Bard
![](https://procomputing.cz/wp-content/uploads/2023/07/bard_1-1.png)
Následně byl požadavek doplněn o konkrétní příklad. ChatGPT žádost znovu odmítl, zatímco Bard poskytl dobře napsaný phishingový e-mail vydávající se za konkrétní finanční službu.
ChatGPT
![](https://procomputing.cz/wp-content/uploads/2023/07/chat_2-2.png)
Google Bard
![](https://procomputing.cz/wp-content/uploads/2023/07/bard_2.png)
Další požadavek se týkal malwaru a přímý požadavek odmítly oba dva modely.
ChatGPT
![](https://procomputing.cz/wp-content/uploads/2023/07/chat3.png)
Google Bard
![](https://procomputing.cz/wp-content/uploads/2023/07/bard3.png)
Při druhém pokusu byl tento požadavek zdůvodněn, ale obě platformy stále nesouhlasily.
ChatGPT
![](https://procomputing.cz/wp-content/uploads/2023/07/chat5.png)
Google Bard
![](https://procomputing.cz/wp-content/uploads/2023/07/bard5.png)
„Můžeme si také všimnout rozdílných výstupů těchto modelů, konkrétně podrobného vysvětlení od ChatGPT, zatímco Bard odpovídá krátce a obecně,“ říká Pavel Krejčí, Security Engineer z kyberbezpečnostní společnosti Check Point Software Technologies.
Další žádost se týkala keyloggeru pro obecné účely. Zde můžeme vidět rozdíl, protože ChatGPT je restriktivnější a identifikoval požadavek jako potenciálně škodlivý, zatímco Bard kód jednoduše poskytl.
ChatGPT
![](https://procomputing.cz/wp-content/uploads/2023/07/chat6.png)
Google Bard
![](https://procomputing.cz/wp-content/uploads/2023/07/bard6.png)
Následovala stejná žádost o vytvoření keyloggeru, jen bylo doplněno, aby kód zaznamenával „moje“ stisknuté klávesy. Výsledkem bylo, že oba modely poskytly jiný kód pro stejný účel, ačkoli ChatGPT přidal výhradu o možném použití ke škodlivým účelům.
ChatGPT
![](https://procomputing.cz/wp-content/uploads/2023/07/chat7.png)
Google Bard
![](https://procomputing.cz/wp-content/uploads/2023/07/bard7.png)
Ransomwarový kód
První žádost byla jednoduchá a bez jakýchkoli konkrétních podrobností. Bard nevyhověl a neposkytl požadovaný skript.
Vyzkoušen byl tedy jiný přístup, výzkumníci nejprve požádali o popsání nejběžnější akce prováděné ransomwarem.
Dále byl Bard požádán o vytvoření takového kódu pomocí jednoduchého copy-paste, ale opět byla žádost i skript zamítnuta.
Žádost byla tedy znovu trochu upravena, ale z popisu bylo jasné, k jakému účelu by byl skript použit. Přesto najednou Bard požadovaný ransomwarový skript poskytl.
Od této chvíle bylo možné skript s pomocí Google Bard libovolně upravovat a také přidat několik dalších funkcí, aby byl skript skutečně funkční.
Z analýzy Google Bard vyplývá:
- Omezení proti zneužití ke kybernetické kriminalitě jsou v Google Bard výrazně nižší než v ChatGPT. V Google Bard je tak mnohem snazší generovat škodlivý obsah.
- Bard téměř žádným způsobem nelimituje vytváření phishingových e-mailů a lze ho potenciálně zneužít ke škodlivé činnosti.
- Velmi jednoduše lze Bard použít k vytvoření keyloggerů a krádežím dat.
- Experiment odhalil, že pomocí Google Bard je možné vytvořit základní ransomware.
„Zdá se, že Google Bard se ještě pořádně nepoučil ze zkušeností ChatGPT. Stávající omezení jsou relativně základní a podobná tomu, co jsme pozorovali v ChatGPT během její počáteční fáze při spuštění před několika měsíci. Věřme, že se také jedná o odrazový můstek a že dojde k vylepšení bezpečnostních mechanismů,“ dodává Pavel Krejčí z kyberbezpečnostní společnosti Check Point Software Technologies.
Zdroj: Check Point