← Wróć do aktualności
The Hacker News13 paź 2026 · 2 min czytania

Anthropic: małe modele AI mogą umożliwić odporne botnety IoT

Anthropic ostrzega, że coraz bardziej zaawansowane małe modele sztucznej inteligencji mogą w przyszłości zostać wykorzystane do tworzenia samopowielających się botnetów zbudowanych ze słabo zabezpiecz...

Anthropic ostrzega, że coraz bardziej zaawansowane małe modele sztucznej inteligencji mogą w przyszłości zostać wykorzystane do tworzenia samopowielających się botnetów zbudowanych ze słabo zabezpieczonych urządzeń podłączonych do internetu.

W analizie potencjalnych zagrożeń wspieranych przez AI firma stwierdziła, że złośliwy model mógłby potencjalnie przemieszczać się między przejętymi systemami, przenosząc własne wagi modelu lub pobierając je z publicznych repozytoriów. Zamiast całkowicie polegać na scentralizowanej infrastrukturze chmurowej, taki system mógłby wykonywać inferencję, korzystając z zasobów obliczeniowych zainfekowanych urządzeń.

Według Anthropic taki scenariusz mógłby utrudnić neutralizowanie zagrożenia w porównaniu z konwencjonalnym złośliwym oprogramowaniem, ponieważ rozproszona sieć przejętych urządzeń nie musiałaby mieć jednej centralnej usługi, którą obrońcy mogliby wyłączyć.

Ryzyka związane z rozproszonymi obliczeniami i propagacją

Anthropic przedstawił kilka ogólnych sposobów, dzięki którym samoreplikujący się system AI mógłby utrzymywać swoje działanie. Obejmują one rozprzestrzenianie się przez hosty, na których jest uruchamiany, nadużywanie środowisk o wysokiej mocy obliczeniowej lub wykorzystywanie skradzionych poświadczeń usług do uzyskiwania dostępu do komercyjnych platform AI. Firma zaznaczyła, że aktywność oparta na API może być łatwiejsza do wykrycia, ponieważ nietypowe użycie może uruchomić monitoring dostawcy i mechanizmy kontroli konta.

Sprzęt konsumencki IoT, w tym tanie urządzenia z Android TV i podobne produkty, może być szczególnie atrakcyjnym celem ze względu na słabe mechanizmy zabezpieczeń i nieregularne aktualizacje. W raporcie stwierdzono, że odpowiednio duża liczba urządzeń mogłaby zapewnić ograniczoną, lecz istotną pulę rozproszonej mocy obliczeniowej.

Anthropic opisał również możliwość podziału większych modeli między wiele przejętych maszyn, co pozwoliłoby botnetowi zbiorowo obsługiwać zadania, z którymi żadne pojedyncze urządzenie nie byłoby w stanie poradzić sobie samodzielnie.

Testy i obecne ograniczenia

Firma poinformowała, że oceniła 11 modeli o otwartych wagach od kilku twórców AI w kontrolowanym środowisku. Według Anthropic GLM-5.2 był jedynym testowanym modelem, który niezawodnie ukończył zadanie polegające na propagacji Llama 3.1 8B między węzłami emulatora Androida, odnosząc sukces w czterech z pięciu prób obejmujących osiem celów.

Anthropic podkreślił, że nie zaobserwował w pełni autonomicznego, niekontrolowanego replikatora. Stwierdził jednak, że agenci AI coraz lepiej radzą sobie z poszczególnymi etapami wymaganymi do replikacji, takimi jak rozpoznanie, wykorzystanie podatności i wdrożenie. Firma oczekuje, że obrońcy będą musieli mierzyć się z botnetami wspieranymi przez AI, które wykorzystują wiele metod utrzymywania dostępu i propagacji, zamiast polegać wyłącznie na replikacji wag modelu.

Ostrzeżenie podkreśla potrzebę aktualizowania narażonych systemów przez organizacje i właścicieli urządzeń, wycofywania niewspieranych produktów IoT, egzekwowania silnych mechanizmów kontroli kont oraz monitorowania nietypowej aktywności obliczeniowej lub sieciowej.

Udostępnij ten artykuł:TwitterLinkedIn