Demokratyczne zarządzanie pionierską AI, część II: Wsparcie obrońców cyberprzestrzeni
AI zmienia tempo, skalę i ekonomiczne uwarunkowania działań w dziedzinie cyberbezpieczeństwa. Może pomagać obrońcom cyberprzestrzeni w znajdowaniu i usuwaniu luk w zabezpieczeniach, wykrywaniu włamań i reagowaniu na ataki. Te same możliwości mogą jednak służyć podmiotom działającym w złej wierze i stwarzać nowe zagrożenia, gdy systemy AI wykraczają poza wyznaczone im granice. Obrońcy cyberprzestrzeni mają teraz szansę zyskać przewagę: dysponujemy ograniczonym czasem, by oddać w ich ręce zaawansowaną AI i wzmocnić zabezpieczenia, zanim zaawansowane możliwości prowadzenia cyberataków staną się powszechnie dostępne.
Dziś publikujemy plan wsparcia obrońców cyberprzestrzeni, który opiera się na naszym wcześniejszym planie działań na rzecz cyberbezpieczeństwa oraz planie zapewnienia bezpieczeństwa pionierskiej AI(otwiera nowe okno). Nasze doświadczenia z działaniem własnych modeli niezgodnym z zamierzonymi celami oraz z incydentami bezpieczeństwa z ich udziałem pokazują, że cała branża potrzebuje silniejszych zabezpieczeń i większej odpowiedzialności za swoje działania. Na podstawie tych doświadczeń przedstawiamy w planie konkretne propozycje dla rządów i branży w trzech obszarach:
Wzmacnianie bezpieczeństwa zaawansowanej AI i jej ochrony: Jaśniejsze określenie obowiązków w zakresie zabezpieczania pionierskich modeli i agentów, wykrywania niebezpiecznych zachowań oraz utrzymywania niezawodnych mechanizmów wyłączania systemów w ramach operacji kontrolowanych przez poszczególne organizacje.
Unowocześnianie cyberbezpieczeństwa na potrzeby ery sztucznej inteligencji: Zapewnienie obrońcom cyberprzestrzeni zaawansowanych narzędzi, szkoleń i wsparcia technicznego; eliminowanie utrzymujących się od dawna słabości w cyberbezpieczeństwie; inwestowanie w ochronę kluczowych usług i wymianę przestarzałych systemów.
Budowanie odpornych instytucji publicznych zdolnych do adaptacji: Wzmocnienie ocen prowadzonych przez organy państwowe oraz niezależnych ocen technicznych, ustanowienie spójnych wymogów zgłaszania incydentów i usprawnienie skoordynowanego reagowania oraz przywracania sprawności po incydentach.
Laboratoria AI mają obowiązek przeciwdziałać zagrożeniom stwarzanym przez ich systemy i pomagać we wzmacnianiu zdolności obronnych społeczeństwa. Również rządy muszą dysponować wiedzą specjalistyczną, zasobami i uprawnieniami, by chronić społeczeństwo w miarę rozwoju możliwości AI. Zachęcamy decydentów, by działali już teraz: ustanawiali zabezpieczenia, wyciągali wnioski z doświadczeń i zaostrzali wymogi w miarę rozwoju technologii.
Przeczytaj pełny plan działania tutaj(otwiera nowe okno).
