В ходе недавней дискуссии о рисках, связанных с искусственным интеллектом (ИИ), участники разделили потенциальные угрозы на три основные категории. Как сообщает Про Город Пермь, в разговоре Лия Фейгер подняла вопрос о том, как можно классифицировать сценарий, связанный с нажатием ядерной кнопки. Брайан Барретт и Зои Шиффер согласились с тем, что такой вариант не является одним из наиболее серьезных опасений.
Зои Шиффер пояснила, что при детальном обсуждении между исследователями ИИ обычно выделяют три ключевые группы рисков. При этом специалисты также могут упоминать дополнительные сценарии, которые, однако, не всегда имеют высокий уровень вероятности. В качестве иллюстрации она привела пример, когда ИИ управляет роботом, способным перемещаться в физическом мире и взаимодействовать с ним в пугающем контексте.
По словам Шиффер, многие ученые признают, что подобные варианты кажутся менее вероятными и более надуманными по сравнению с другими угрозами. Брайан Барретт предложил в рамках уже существующих категорий отдельно выделять действия, которые контролирует человек, и полностью автономные действия ИИ. Он отметил, что многие скептически относятся к сценарию, в котором ИИ самостоятельно разработает биологическое оружие и применит его.
При этом Барретт напомнил, что в мире существуют злоумышленники, которые могут использовать ИИ для разработки биологического оружия и дальнейшего распространения таких угроз. Зои Шиффер согласилась с тем, что этот вариант выглядит более реалистичным. Она отметила, что если людям будет предоставлен доступ к информации о создании биологического оружия, всегда найдутся те, кто проявит безрассудство и попытается воспользоваться этими знаниями.
Шиффер также подчеркнула, что люди регулярно совершают опасные и злонамеренные поступки, вдохновляясь материалами, доступными в интернете. В то же время она считает, что полностью автономные действия ИИ в данной сфере менее правдоподобны. Чтобы проиллюстрировать свои мысли, Барретт вспомнил фильм 1983 года «Военные игры», в котором компьютер, выполняющий роль искусственного интеллекта, чуть не спровоцировал ядерную войну.
По мнению Барретта, ИИ не будет самостоятельно нажимать кнопку или поворачивать ключ. Однако в фильме компьютер заставил США поверить в атаку со стороны советских ядерных сил. Он предположил, что существующих мер защиты и спутниковых технологий должно быть достаточно, чтобы избежать повторения такого сценария в реальной жизни.
Тем не менее, Барретт указал на более вероятные угрозы, такие как ситуация, когда ИИ подает ложный сигнал тревоги, который способен запустить цепочку катастрофических событий. Это подчеркивает важность контроля и мониторинга технологий ИИ, чтобы минимизировать риски, связанные с их использованием.