Chatboty ze sztuczną inteligencją (AI) podbiły świat, a rok 2023 zapowiada się jako rok zwiększonego zainteresowania tą technologią. Wydanie ChatGPT OpenAI w ostatnim kwartale 2022 roku zachęciło wiele firm, organizacji i osób prywatnych do wejścia na arenę. Nawet potentat technologiczny Elon Musk przyłączył się do dyskusji na temat chatbotów AI, podkreślając potencjalne korzyści i zagrożenia związane z tą technologią, a Google ogłosił własnego chatbota AI, Bard.

Chatboty AI, takie jak ChatGPT, są chwalone za zdolność do zrewolucjonizowania dostępu do informacji w Internecie. Rośnie jednak obawa o ich potencjalne wykorzystanie w cyberatakach. Badacze wykazali, że chatbotami AI można manipulować w celu wykorzystywania kodu, pisania złośliwego oprogramowania i generowania przekonujących przynęt phishingowych. Chociaż ChatGPT ma zabezpieczenia zapobiegające tworzeniu narzędzi do cyberataków, nadal może generować treści, które mogą służyć jako przynęta dla phisherów. Jest to szczególnie niepokojące, biorąc pod uwagę fakt, że ponad 80% naruszeń bezpieczeństwa cybernetycznego w zeszłym roku dotyczyło inżynierii społecznej.

Pomimo ograniczeń chatbotów AI, takich jak ChatGPT, w dostarczaniu dokładnych informacji i możliwości generowania halucynacji (niedokładnych danych opartych na wzorcach), atakujący wciąż mogą ich nadużywać. Jest to szczególnie prawdziwe w przypadku osób o ograniczonej wiedzy technicznej, które używają go i podobnych narzędzi do szybkiego rozpoznania i uzyskania niezbędnych podstawowych elementów i technik do swoich ataków. Oczywiście hakerzy nadal muszą wykonywać dodatkowe czynności, takie jak zakup infrastruktury, wysyłanie przynęt i zarządzanie nielegalną sprzedażą, aby wykonać zaplanowane działania.

Chatboty i domeny homograficzne

Innym problemem jest to, że firmy coraz częściej używają chatbotów AI, takich jak ChatGPT, aby pomóc użytkownikom znaleźć odpowiednie nazwy domen. Wzbudziło to obawy, że cyberprzestępcy używają podobnych narzędzi i usług do uzyskiwania atrakcyjnych list domen w celu generowania ruchu, co może prowadzić do szkodliwych skutków, takich jak udane przynęty phishingowe i większa liczba zainfekowanych użytkowników. Co więcej, atakujący mogą używać ChatGPT do dynamicznego generowania nazw domen, które mogą łatwo rejestrować w celu kontrolowania zainfekowanych maszyn. Chociaż istnieją ograniczenia co do tego, co firmy mogą obecnie zrobić, aby zapobiec tej działalności, niektóre rejestry domen, takie jak Identity Digital, mają zabezpieczenia, które generalnie uniemożliwiają rejestrację najbardziej przekonujących domen podobnych, „domen homograficznych”..

Ponieważ chatboty AI, takie jak ChatGPT, są nadal integrowane z aplikacjami takimi jak wyszukiwarki, rośnie potencjalna pula danych, którą atakujący mogą wykorzystać. Na przykład mogą uzyskać szablony komunikacji oparte na informacjach publicznych. Jest jednak nadzieja na obronę przed tymi atakami. Możemy spodziewać się gwałtownego wzrostu liczby narzędzi, aplikacji i usług, które mogą wykrywać, czy ChatGPT lub podobne narzędzia wytworzyły określone treści. Oprócz wydania takiego narzędzia przez OpenAI, pojawiły się również inne, w tym GPTZero, jedno z najbardziej rozpoznawalnych.

Co więcej, chatboty AI, takie jak ChatGPT i podobne narzędzia, mogą wzmocnić obronę przedsiębiorstwa, umożliwiając zespołom bezpieczeństwa Red i Blue opracowywanie skryptów do testowania i eliminowania luk, nawet z mniej doświadczonymi członkami zespołu. Może to pomóc organizacjom w wykrywaniu i blokowaniu złośliwych treści generowanych przez chatboty AI oraz minimalizowaniu zagrożeń związanych z cyberbezpieczeństwem.

Chatboty AI oferują wiele korzyści, ale wiążą się z nieodłącznym ryzykiem. Firmy i organizacje muszą zachować czujność i podejmować proaktywne działania w celu wykrywania i blokowania złośliwych treści generowanych przez chatboty AI. Równoważąc szanse i zagrożenia związane z chatbotami AI oraz wykorzystując je do wzmacniania zabezpieczeń cybernetycznych, przedsiębiorstwa mogą w pełni wykorzystać potencjał tej przełomowej technologii.