Otwarty dyrektor generalny AI Sam Altman przemawia podczas konferencji w San Francisco w tym tygodniu. Firma poinformowała, że niedawno usunęła 10 operacji wpływowych, które wykorzystały generatywne narzędzia sztucznej inteligencji. Czterech z tych operacji prawdopodobnie przeprowadziło rząd chiński.
Justin Sullivan/Getty Images
Ukryj podpis
Przełącz podpis
Justin Sullivan/Getty Images
Chińscy propagandziści używają CHATGPT do pisania postów i komentarzy na stronie mediów społecznościowych – a także do tworzenia recenzji wydajności szczegółowo opisujących, które działają dla swoich szefów, według badaczy Openai.
Wykorzystanie sztucznej inteligencji chatbota firmy do tworzenia wewnętrznych dokumentów, a także innej chińskiej operacji w celu tworzenia materiałów marketingowych promujących jego pracę, przychodzi, gdy Chiny zwiększają swoje wysiłki, aby Wpływ opinii i przeprowadzaj nadzór online.
„To, co widzimy z Chin, to rosnąca gama tajnych operacji z wykorzystaniem rosnącego zakresu taktyk” – powiedział Ben Nimmo, główny badacz zespołu wywiadowczego i śledczego Openai, powiedział o rozmowach z reporterami o najnowszym raporcie o zagrożeniu firmy.
W ciągu ostatnich trzech miesięcy Openai twierdzi, że zakłócił 10 operacji za pomocą narzędzi AI w złośliwy sposób i połączonych z nimi zakazanych kont. Firma powiedziała, że cztery operacje prawdopodobnie powstały w Chinach.
Operacje związane z Chinami „skierowały wiele różnych krajów i tematów, nawet w tym grę strategiczną. Niektóre z nich łączyły elementy operacji wpływowych, inżynierii społecznej, nadzoru. I pracowali na wielu różnych platformach i stronach internetowych”-powiedział Nimmo.
Jedna chińska operacja, która Openai nazwała „Sneer Review”, użyła Chatgpt do wygenerowania krótkich komentarzy, które zostały opublikowane przez Tiktok, X, Reddit, Facebook i inne strony internetowe, w języku angielskim, chińskim i urdu. Tematami obejmowały demontaż amerykańskiej Agencji Rozwoju Międzynarodowego przez Trump – z postami zarówno wychwalania, jak i krytykowaniem ruchu – a także krytyki tajwańskiej gry, w której gracze pracują, aby pokonać chińską partię komunistyczną.
W wielu przypadkach operacja wygenerowała post, a także komentarze na nie odpowiadające na niego raport Behavior Openai „Pojawił się, aby stworzyć fałszywe wrażenie organicznego zaangażowania”. Operacja wykorzystywała CHATGPT, aby wygenerować krytyczne komentarze na temat gry, a następnie napisać długotrwały artykuł, w którym twierdzą, że gra otrzymała powszechny luz.
Aktorzy stojącej za Sneer Review wykorzystali również narzędzia Openai do wykonywania prac wewnętrznych, w tym „szczegółowo opisujący„ przegląd wydajności opisujący kroki podjęte w celu ustanowienia i uruchomienia operacji ”, powiedział Openai. „Zachowania w mediach społecznościowych, które obserwowaliśmy w całej sieci, uważnie odzwierciedlały procedury opisane w tym przeglądzie”.
Kolejna operacja Openai związana z Chinami skupiona na zbieraniu wywiadu, udając dziennikarzy i analityków geopolitycznych. Używał chatgpt do pisania postów i biografii dla kont na X, do tłumaczenia e -maili i wiadomości z chińskiego na angielski oraz analizy danych. Obejmowało to „korespondencję skierowaną do senatora USA w sprawie nominacji urzędnika administracyjnego”, powiedział Openai, ale dodał, że nie jest w stanie niezależnie potwierdzić, czy korespondencja została wysłana.
„Wykorzystali również nasze modele do generowania czegoś, co wyglądało jak materiały marketingowe” – powiedział Nimmo. Operacja twierdziła, że przeprowadziła „fałszywe kampanie w mediach społecznościowych i inżynierię społeczną mającą na celu rekrutację źródeł wywiadu”, które ustawiły się w kolejce z działalnością online, powiedział Openai w swoim raporcie.
W jego Poprzedni raport zagrożenia W lutym Openai zidentyfikował operację inwigilacyjną związaną z Chinami, która twierdziła, że monitorowanie mediów społecznościowych „karmią raporty w czasie rzeczywistym na temat protestów na zachodzie chińskim służbom bezpieczeństwa”. W operacji wykorzystano narzędzia Openai do debugowania kodu i opisów zapisów, które można by wykorzystać w ofertach sprzedaży dla narzędzia monitorowania mediów społecznościowych.
W swoim nowym raporcie opublikowanym w środę Openai powiedział, że zakłócił także tajne operacje wpływu Rosja I IranOperacja spamu przypisana komercyjnej firmie marketingowej na Filipinach, oszustwa rekrutacyjnym powiązanym z Kambodżą oraz zwodniczą kampanię zatrudnienia zawierającą cechy działalności związane z Koreą Północną.
„Warto potwierdzić samą ofertę i różnorodność taktyk i platform, z których korzystają te operacje, wszystkie złożone” – powiedział Nimmo. Powiedział jednak, że operacje zostały w dużej mierze zakłócone we wczesnych etapach i nie dotarły do dużej publiczności prawdziwych ludzi.
„Zasadniczo nie widzieliśmy, aby te operacje mają większe zaangażowanie z powodu ich użycia sztucznej inteligencji” – powiedział Nimmo. „W przypadku tych operacji lepsze narzędzia niekoniecznie oznaczają lepsze wyniki”.
Czy masz informacje o operacjach wpływów zagranicznych i sztucznej inteligencji? Sięgnij do Shannon Bond poprzez zaszyfrowaną komunikację na sygnał w Shannonbond.01
