Нейрасеткі могуць выпадкова выдаць інструкцыю стварэння ядзернай зброі?
Міністэрства энергетыкі ЗША разам з іншымі ведамствамі выкарыстоўвае папулярную сістэму штучнага інтэлекту для тэсціравання ядзернай бяспекі. Аднак, як піша выданне Axios, гэта можа прывесці да сцэнару, калі нейрасеткі, дапушчаныя да ядзерных праграм, могуць выпадкова выдаць сакрэты любому карыстальніку.
Амерыканская высакатэхналагічная кампанія Anthropic разам з Міністэрствам энергетыкі ЗША выпрабоўвае свае мадэлі штучнага інтэлекту (ШІ), каб пераканацца, што яны не могуць быць выкарыстаны для стварэння ядзернай зброі. Пра гэта кампанія паведаміла выданню Axios.
Anthropic заяўляе, што яе сістэма штучнага інтэлекту Claude (адна з самых перадавых на сёння нейрасетак) стала першай, якой афіцыйна дазволілі выкарыстоўвацца ў сакрэтных урадавых праграмах ЗША, у тым ліку ядзернай.
З красавіка гэтага года Anthropic супрацоўнічае з Адміністрацыяй па нацыянальнай ядзернай бяспецы (NNSA), і адначасова ладзіць з ёй маштабнае сумеснае даследаванне, ці можа Claude раптоўна выдаць ядзерныя сакрэты трэцім асобам па запыце.
Спецыялісты NNSA і Anthropic наўмысна спрабуюць «узламаць» Claude і прымусіць яго, напрыклад, зліць інструкцыю па распрацоўцы ядзернай зброі, піша Axios (з гэтага вынікае, што штучны інтэлект ужо мае доступ да такога тыпу даных).
Даследаванне яшчэ працягваецца і скончыцца толькі ў лютым 2025 года, таму вынікі тэсціравання Claude пакуль не вядомыя. Кампанія Anthropic, у сваю чаргу, плануе падзяліцца высновамі з навуковымі лабараторыямі і іншымі арганізацыямі, каб яны маглі таксама правесці аналагічныя выпрабаванні.
Навошта ўвогуле даваць ШІ доступ да ядзернай праграмы?
Нейрасеткі могуць істотна павысіць эфектыўнасць ядзерных удараў: яны здольныя разлічваць траекторыю палёту боегалоўкі такім чынам, каб патрапіць у цэль з мінімальнымі стратамі і разбурэннямі. Гэта асабліва важна для тактычнай ядзернай зброі, якая прызначана для паразы лакальных аб'ектаў.
Перадавыя сістэмы ШІ, як той жа Claude, таксама здольныя з высокай дакладнасцю сімуляваць ядзерныя выбухі і аналізаваць іх наступствы. Гэтая інфармацыя можа спатрэбіцца для ўдасканалення канструкцыі боегаловак. Акрамя таго, ШІ можа апрацоўваць даныя аб ландшафце, экалогіі, інфраструктуры на тэрыторыі праціўніка і гэтак далей, задаючы, задаючы аптымальныя параметры для ўдару.
«Калі ласка, памры». Нейрасетка з абразамі і праклёнамі накінулася на карыстальніка. Спыталі ў яе, чаму яна раззлавалася
Чат-боты могуць падтрымліваць нацызм і іншыя антычалавечыя ідэалогіі з-за адной асаблівасці
Швейцарыя прэзентавала рэвалюцыйную тэхналогію, якая амаль цалкам можа пазбавіць свет ад радыеактыўных адкідаў
Стала вядома, як добра ўладкаваўся ў жыцці муж старэйшай унучкі Лукашэнкі5
Каментары