Kobieta aresztowana po rozmowie z chatbotem. Rozmowy z chatbotami coraz częściej przypominają prywatny dziennik. Ludzie opisują w nich swoje emocje, problemy, frustracje, a czasem także rzeczy, których nie powiedzieliby nawet bliskim. Pewna 30-letnia kobieta z Florydy przekonała się jednak, że rozmowa z systemem sztucznej inteligencji może mieć zupełnie inny finał, gdy pojawiają się w niej konkretne groźby. Sprawa wywołała pytania o to, jak naprawdę prywatne są rozmowy prowadzone z popularnymi chatbotami.
Kobieta aresztowana po rozmowie z chatbotem
Według policji kobieta korzystała z chatbota Claude, stworzonego przez firmę Anthropic. Miała traktować rozmowę z systemem jak swoisty cyfrowy pamiętnik. Pod koniec września w konwersacji miały pojawić się jednak treści dotyczące planowanego ataku na budynek szeryfa w hrabstwie Lee na Florydzie.
Na tym sprawa się nie skończyła. Według śledczych kobieta miała następnego dnia wrócić do rozmowy i poinformować, że kupiła nową broń. To właśnie połączenie wcześniejszych deklaracji z kolejną wiadomością miało wzbudzić szczególne zainteresowanie systemów bezpieczeństwa.
Chatbot wykrył potencjalne zagrożenie
Mechanizmy bezpieczeństwa uznały rozmowę za potencjalnie niebezpieczną. Następnie konwersacja miała zostać przeanalizowana przez pracowników firmy. Według informacji przekazanych przez amerykańskie władze uznano, że zawarte w niej groźby mogą być wiarygodne. Firma skontaktowała się więc z policją.
To właśnie ten moment jest w całej historii szczególnie istotny. Osoba korzystająca z chatbota może mieć wrażenie, że prowadzi rozmowę wyłącznie z programem. W przypadku treści wskazujących na realne zagrożenie sytuacja może jednak wyglądać inaczej.
Policja przyjechała do jej domu
Do zatrzymania kobiety doszło 30 września w jej domu na Florydzie. 30-latka została oskarżona o pisemne groźby użycia przemocy. Według informacji zawartych w materiale źródłowym w stanie Floryda grozi jej za to kara nawet do 15 lat pozbawienia wolności. Kolejny termin rozprawy został wyznaczony na listopad. Ostateczna odpowiedzialność kobiety będzie zależała od postępowania sądowego i oceny przedstawionych zarzutów – podał BILD.
Czy rozmowa z AI naprawdę jest prywatna?
Ta historia zwraca uwagę na kwestię, o której wielu użytkowników chatbotów może nie myśleć na co dzień. Claude, ChatGPT czy Gemini wykorzystują mechanizmy mające wykrywać określone rodzaje niebezpiecznych treści. W przypadku konkretnych gróźb lub oznak możliwego aktu przemocy dostawcy usług mogą mieć procedury pozwalające na dodatkową analizę rozmowy.
W określonych okolicznościach informacje mogą również zostać przekazane organom ścigania. Oznacza to, że rozmowy z AI nie powinny być automatycznie traktowane jak całkowicie prywatny pamiętnik, do którego nikt poza użytkownikiem nie ma dostępu.
Szeryf ostrzega użytkowników chatbotów
Sprawę skomentował również szeryf Carmine Marceno. Jego przekaz skierowany był przede wszystkim do osób, które zakładają, że rozmowa z chatbotem pozostanie wyłącznie między nimi a sztuczną inteligencją. Sam fakt, że po drugiej stronie znajduje się program komputerowy, nie oznacza bowiem automatycznie pełnej poufności rozmowy. W szczególności dotyczy to sytuacji, w których systemy bezpieczeństwa wykryją treści mogące wskazywać na realne zagrożenie. Przeczytaj także: Hakerzy wykorzystali popularnego chatbota do ataku na 1,8 miliona aplikacji. Szukają haseł
A co z użytkownikami w Niemczech?
Sprawa z Florydy rodzi również pytanie, czy podobny scenariusz byłby możliwy w Niemczech. W Unii Europejskiej rozmowy i dane użytkowników podlegają przepisom dotyczącym ochrony danych, w tym RODO (GDPR/DSGVO). Nie oznacza to jednak, że dane osobowe nigdy nie mogą zostać przekazane organom państwowym.
W przypadku konkretnych zagrożeń przepisy o ochronie danych nie wykluczają automatycznie przekazania określonych informacji właściwym organom. Jednocześnie ewentualna odpowiedzialność karna i wysokość kary zależałyby od prawa obowiązującego w danym kraju oraz od konkretnych okoliczności sprawy. Historia z Florydy pokazuje więc przede wszystkim, że użytkownicy powinni ostrożniej podchodzić do przekonania, że chatbot jest cyfrowym odpowiednikiem zamkniętego pamiętnika.