OpenAI zjistila, že narušení dat ChatGPT bylo způsobeno chybou v kódu open source box ve svém chatbotu, což bylo opraveno rychle a se zdánlivě minimálními následky, ale incident mohl být předzvěstí budoucích hrozeb chatboty a uživatelé a OpenAI přijímá opatření, aby se v budoucnu vyhnulo narušení dat v aplikaci.
Když ChatGPT a dalšími chatboty se zpočátku stali veřejnost dostupný, kybernetická bezpečnost Komunita se obávala, jak lze využít technologii AI k provádění kybernetických útoků. Netrvalo dlouho a aktéři hrozeb přišli na to, jak obejít bezpečnostní kontroly a zneužít ChatGPT k psaní škodlivého kódu.
Zdá se, že se věci otočily. Místo použití ChatGPT ke způsobení kybernetických katastrof nyní útočníci aktivovali samotnou technologii. Podle Týden bezpečnosti, OpenAI, společnost, která vytvořila chatbota, objevila narušení dat ChatGPT v systému způsobené chybou v open source frameworku kódu. Porušení dat ChatGPT deaktivovalo službu, dokud nebude možné ji opravit.
Popularita ChatGPT byla zřejmá od okamžiku, kdy byla vydána pozdě v roce 2022. Každý od autorů po softwarové profesionály si chtěl hrát s chatbotem. Navzdory svým nedostatkům (některé její prózy byly neohrabané nebo plagiáty) se ChatGPT rychle stal nejrychleji rostoucí spotřebitelskou aplikací v historii s více než 100 milionů měsíčně uživatel za leden. Do měsíce od zveřejnění, cca 13 miliony lidí používaly technologii AI každý den. V porovnání, Tik takdalší velmi populární aplikace, trvalo devět měsíců, než se dostal ke srovnatelnému počtu uživatelů.
Porušení dat ChatGPT
Je jen otázkou času, kdy se oblíbená aplikace nebo technologie stane cílem hrozby. V případě porušení dat ChatGPT bylo možné zneužití kvůli chybě s otevřeným zdrojovým kódem Redis knihovna. Uživatelé nyní mohou zobrazit historii chatu ostatních aktuálních uživatelů.
Podle Těžký.AIknihovny s otevřeným zdrojovým kódem se používají k “vývoji dynamických rozhraní ukládáním snadno dostupných a často používaných rutin a zdrojů, jako jsou třídy, konfigurační data, dokumentace, data nápovědy, šablony zpráv, předem napsaný kód a rutiny, specifikace typu a hodnot.”
OpenAI používá Redis k ukládání uživatelských informací pro rychlejší vyvolání a přístup. Protože tisíce přispěvatelů vytvářejí a používají otevřený zdrojový kód, zranitelnosti se mohou snadno objevit a zůstat nepovšimnuty. Protože si to aktéři hrozeb uvědomují, útoky na knihovny s otevřeným zdrojovým kódem se zvýšily 742 % od roku 2019.
ChatGPT zranitelnost byla v celkovém schématu věcí zanedbatelná a OpenAI opravila chybu několik dní po jejím objevení. I menší kybernetické incidenty však mohou způsobit značné škody.
Šlo však pouze o drobný incident. Výzkumníci narušení dat ChatGPT se ponořili hlouběji a zjistili, že stejná zranitelnost byla pravděpodobně zodpovědná za viditelnost platebních dat hodiny před vypnutím ChatGPT.
“Někteří uživatelé mohou vidět jméno a příjmení jiného aktivního uživatele, e-mailovou adresu, fakturační adresu, poslední čtyři číslice čísla kreditní karty (pouze) a datum vypršení platnosti kreditní karty.” “Nikdy nebyla odhalena žádná úplná čísla kreditních karet,” uvedl OpenAI v prohlášení k incidentu.
Chatbot, umělá inteligence, kybernetická bezpečnost a narušení dat ChatGPT
Porušení dat ChatGPT bylo opraveno rychle a se zdánlivě minimálními dopady, což ovlivnilo uživatele platící méně než 1 % její uživatelé. Incident by však mohl být předzvěstí budoucích hrozeb pro chatboty a uživatele.
V souvislosti s používáním chatbotů již existují obavy o soukromí. Mark McCreary, spolupředseda Liška Rothschild LLPs postupy ochrany osobních údajů a zabezpečení, řekl CNN že ChatGPT a chatboti jsou analogií černé skříňky v letadle. Technologie AI shromažďuje obrovské množství dat a poté je používá k vytváření odpovědí na dotazy a dotazy. Navíc se vše v paměti chatbota zpřístupní ostatním uživatelům.
Chatboti mohou například zachytit poznámky jednoho uživatele k libovolnému tématu a poté je shrnout nebo požádat o další podrobnosti. Pokud však tyto poznámky obsahují citlivé informace – například duševní vlastnictví organizace nebo citlivé informace o uživatelích – jsou k nim přidány chatbot knihovna. Uživatel ztratil kontrolu nad informacemi.
Omezení AI jsou stále přísnější
Některé společnosti a celé země zasahují proti otázkám ochrany osobních údajů. JPMorgan lov, například omezil používání ChatGPT pro své pracovníky kvůli omezením společnosti na software a aplikace třetích stran, ale existují také obavy o bezpečnost finančních dat zadávaných do chatbota. Itálie také jako důvod dočasného zablokování programu v celé zemi uvedla ochranu dat občanů. Úředníci tvrdili, že obavy pramení z GDPR kompatibilita.
Očekává se také, že aktéři hrozeb budou používat ChatGPT k odesílání sofistikovaných a skutečný phishing elektronická poštapodle Odborníci. Vulgární výrazy a podivné frázování již nejsou indikátory phishingového schématu. Chatboti budou nyní napodobovat přirozené mluvčí odesíláním přizpůsobených zpráv. ChatGPT je schopen bezproblémového jazykového překladu, což změní hru pro nepřátele z jiných zemí.
Využití umělé inteligence k výrobě dezinformačních a konspiračních kampaní je stejně škodlivá technika. Důsledky této praxe mohou přesahovat kybernetické hrozby. Výzkumníci použili ChatGPT vytvořit článek, který se podobá něčemu, co vidíte na InfoWars nebo jiné slavné weby, které propagují konspirační teorie.
Hrozby řeší OpenAI
Rozvoj narušení dat chatbotů přinese nová kybernetická rizika, ať už prostřednictvím složitějších jazykových schopností, nebo jejich oblíbenosti. V důsledku toho je technologie hlavním cílem pro útočný vektor. Za tímto účelem OpenAI přijímá opatření, aby se zabránilo budoucím únikům dat v aplikaci. Bude platit odměnu za chyby do 20 tisíc dolarů každému, kdo najde dříve neznámá zranitelnost.
Nicméně, podle Novinky o hackerech„Program se nevztahuje na modelové bezpečnostní problémy nebo halucinace, kdy je chatbot požádán, aby vygeneroval škodlivý kód nebo jiné nesprávné výsledky.“ Zdá se, že OpenAI chce posílit technologii proti externím útokům a dělá jen málo pro to, aby zabránil chatbotovi stát se zdrojem kybernetických útoků.
ChatGPT a další chatboti budou klíčovými aktéry v oblasti kybernetické bezpečnosti. Zda bude cílem útoků technologie, nebo jejich generátor, ukáže až čas.
Úniky dat a kybernetické útoky patří k nejzávažnějším problémům současnosti. Nesouhlasíte? Podívejte se na tyto:
