Nastolatki używające sztucznej inteligencji do tworzenia fałszywych aktów kolegów z klasy
Zmienili technologię w broń – i nikt nie jest bezpieczny przed skandalem.
Nastolatki używają sztucznej inteligencji, aby unieść Niepokojąco realistyczne nagie obrazy ich kolegów z klasy – a następnie dzielą się nimi jak cyfrowy pożar, wysyłając fale uderzeniowe przez szkoły i pozostawiając ekspertów obawiających się najgorszych.
Narzędzia napędzane AI, często nazywane aplikacjami „nudifikującymi”, są tak złowrogie, jak brzmią. Z tylko strzałem w głowę – często podnoszone ze zdjęcia rocznika lub profilu mediów społecznościowych – te aplikacje mogą wytwarzać wyraźne obrazy DeepFake To wydają się przerażająco prawdziwe.
I tak, to już się dzieje w szkołach.
Te hiperrealistyczne obrazy-wykute z narzędziami AI-zamieniają zastraszanie w zaawansowany technologicznie koszmar.
„Jesteśmy teraz w miejscu, w którym nie możesz nic robić, a historie i zdjęcia o tobie są publikowane online”, powiedział Don Austin, kurator Palo Alto Unified School District Fox News Digital.
„Są sfabrykowane. Są całkowicie wymyślone przez sztuczną inteligencję i może mieć twój głos lub twarz. To zupełnie inny świat”.
Jest to pełny kryzys cyfrowy. Zeszłego lata biuro prokuratora miasta w San Francisco pozwał 16 tak zwanych Strony „nudyfy” w celu rzekomego naruszenia przepisów dotyczących wyzysku dzieci i obrazów bezsensownych.
Same te strony zebrały ponad 200 milionów wizyt w pierwszej połowie 2023 r.
Ale złapanie firm technologicznych za tymi narzędziami? To tak, jakby grać w grę w Whac-a-Mole.
Większość z nich przeszła po obecnych przepisach stanowych, choć niektóre – jak Minnesota – próbują uchwalić przepisy dotyczące odpowiedzialności Za spustoszenie sieją.
Mimo to technologia porusza się szybciej niż prawo – a dzieci zostają złapane w ogniu krzyżowym.
Josh Ochs, założyciel SmartSocial-organizacji, która szkoli rodziny w zakresie bezpieczeństwa online-powiedział Fox News Digital, że akty generowane przez AI powodują „ekstremalne szkody” nastolatkom w całym kraju.
„Dzieci w dzisiejszych czasach przesyłają strzał w głowę innego dziecka w szkole, a aplikacja odtworzy ciało osoby, jakby były nagie”, ujawnił Ochs.
„To powoduje ekstremalną szkodę dla tego dziecka, które może być na zdjęciu, a zwłaszcza ich przyjaciół i całej rodziny” – zauważył.
Powiedział, że rodzice muszą przestać na palcach wokół cyfrowego życia swoich dzieci – i zacząć ustawiać pewne granice.
„Zanim dasz swoim dzieciom telefon lub media społecznościowe, nadszedł czas, aby przeprowadzić tę dyskusję wcześnie i często. Hej, to dla ciebie pożyczkodawca i mogę to cofnąć w dowolnym momencie, ponieważ naprawdę możesz skrzywdzić naszą rodzinę” – powiedział Ochs.
W lutym Senat USA jednogłośnie uchwalił projekt ustawy o kryminalizacji publikacji – a nawet grożących opublikowaniem – Niekonsensusowe AI DeepFake Porn.
Teraz czeka na dalsze działania.
Austin powiedział, że jedynym sposobem na wyprzedzenie krzywej jest rozmowa – z rodzicami, nauczycielami, uczniami i każdym innym, którzy będą słuchać.
„To nie odchodzi” – ostrzegł. „Ewoluuje – i szybko”.
