Wystarczyło na support Instagram napisać, że konto zostało zhakowane, podać login tego konta i e-mail na jaki chcemy dostać link do zresetowania hasła. Sztuczna inteligencja zainstalowana na supporcie bez żadnej weryfikacji czy e-mail należy do właściciela konta czy nie, beztrosko wysyłała odnośnik do zmiany hasła na podany e-mail.
Teraz włamywacz po prostu wchodził na te skrzynkę (bo oczywiście podał swój adres e-mail), klikał w link, zmieniał hasło i miał już konto.
W ten sposób zostały przejęte dziesiątki kont, w tym należące do Obamy.
Meta już poprawiła ten błąd usuwając chatbot z tego procesu, ale to kolejny przykład do czego może prowadzić wdrażanie AI wszędzie jak popadnie.
