В 2000 году мир готовился к проблеме 2000 года. Была названа дата и
предложен способ её решения. Царила паника по поводу конца света, но,
несмотря на отдельные сбои, мы с другими программистами увеличили поле
для указания года с двух до четырёх символов, и всё работало как часы.
Всё о проблеме 2000 года было известно — проблема, решение и крайний
срок.
Q-Day — это совсем другое.
День
Q — это сокращенное обозначение момента, когда квантовые вычисления
переступают черту, которую мы считали нерушимой, — когда математические
основы современной жизни могут быть взломаны, и взломаны быстро.
В День Q замки будут взломаны тихо и быстро. И самое тревожное
заключается в том, что вор, возможно, уже завладел вашим сейфом, ожидая
того дня, когда комбинация станет тривиальной для вычисления.
Современное
шифрование — это замок, на взлом которого обычному компьютеру с нулями и
единицами потребовалось бы больше времени, чем возраст Вселенной — 26,7 миллиарда лет. Наиболее распространенная система — RSA с 2048-битным ключом — основана на практически невозможности разложить на множители «произведение двух очень больших простых чисел».
Однако достаточно развитый квантовый компьютер не стал бы перебирать все возможные комбинации . Он использовал бы принципиально иной метод — метод, открытый математиком из Массачусетского технологического института Питером Шором,
— для эффективного решения этой проблемы. То, что сегодня невозможно,
стало бы обыденным. Предположение о безопасности, принятое в мире,
перестало бы быть верным.
Украденные сегодня данные —
банковские выписки, корпоративные секреты, медицинские файлы,
государственная переписка — могут храниться до тех пор, пока не станут
читаемыми , что аналитики называют « сбором урожая сейчас, расшифровкой позже
». Это дает сегодняшним ворам спекулятивное право на завтрашние знания.
Но, как и все спекулятивные права, их ценность зависит от времени,
неопределенности и действий других лиц. Чем дольше задержка, тем выше
вероятность того, что данные устареют, будут заменены или будут защищены
другим способом или в другом месте.
Нет единого мнения о том, когда, вероятно, наступит «День Q» . « Google считает, что это может произойти к 2029 году
, в то время как Ади Шамир — один из экспертов по криптографии, стоящих
за разработкой шифрования RSA, — полагает, что это произойдет не раньше чем через 30 лет ».
Между тем, кое-что ещё : к нам приближается
Технологическая
сингулярность, точка, в которой искусственный интеллект превзойдет
человеческий интеллект и начнет самосовершенствоваться в непрерывном
цикле, чаще всего предсказывается на период между 2035 и 2045 годами.
Этот временной промежуток сокращается. Несколько лет назад большинство
экспертов оценивали его на десятилетия вперед. Теперь же некоторые из
самых авторитетных специалистов в области ИИ считают, что предшествующий
этап, искусственный общий интеллект (AGI), может наступить до 2030
года.
Возможно, футурологи, склонные к теории сингулярности, упускают из виду технические препятствия в своих прогнозах
, такие как неспособность интеллекта достичь прогнозируемых масштабов,
но наступление Дня Q кажется довольно неизбежным. Это поднимает
несколько тем, знакомых студентам австрийской школы экономики.
Во-первых, проблема знаний
. Как подчеркивал Хайек, информация, необходимая для координации
сложных систем, рассредоточена, носит качественный и часто неявный
характер. Ни один централизованный планировщик не может знать,
когда наступит «день вопросов» или какие системы наиболее уязвимы в
режиме реального времени. Мандаты, предполагающие определенный
график, рискуют привести к нерациональному распределению ресурсов.
Напротив, децентрализованные участники — банки, фирмы, разработчики —
могут реагировать на ценовые сигналы, стоимость страхования, конкуренцию
поставщиков и развивающуюся информацию об угрозах.
Во-вторых, стимулы и временные предпочтения.
Расходы на безопасность — это классический случай текущих затрат ради
будущей выгоды. Выгода заключается в убытках, которых вы никогда не
понесете. В мире квартальных отчетов и бесчисленных
отвлекающих факторов возникает соблазн отложить решение. Однако природа
«квартального дня» переворачивает расчеты: стоимость задержки
накапливается, потому что период уязвимости длительный, а исправление
ситуации происходит медленно. Системы не меняются за одну ночь.
Необходимо менять ключи, обновлять протоколы, заменять оборудование,
переобучать персонал. Необходимая здесь дисциплина — это именно то, на
что указывает австрийский анализ: согласование стимулов таким образом,
чтобы долгосрочное сохранение капитала не приносилось в жертву
краткосрочной видимости.
В-третьих, структура капитала
. Информационные системы — это капитальные товары с длительным сроком
службы и сложными взаимозависимостями. Когда фирмы медлят, а затем
спешат, инвестиции концентрируются под давлением — это ИТ-версия
неэффективных инвестиций. Напротив, создание криптографической гибкости —
способности заменять криптографические компоненты, не разрушая всю
систему, — является формой грамотного планирования капитала. Это
распределяет затраты во времени и снижает риск лихорадочной, чреватой
ошибками спешки в дальнейшем.
В-четвертых, права собственности и доверие.
В цифровой экономике шифрование — это не роскошь; это часть
институциональной структуры, которая делает возможным обмен. Если
подписи можно подделать, а личности — сфальсифицированы, претензии на
право собственности — на счета, контракты, даже деньги — ослабевают.
Невидимая инфраструктура доверия становится видимой именно тогда, когда
она дает сбой. Q-Day, если с ним неправильно справиться, будет не просто
технической неполадкой; он может превратить надежность самого обмена в
катастрофу.
В-пятых, конкуренция. Если одно обязательное решение терпит неудачу, это приводит к сбою всей системы.
Подход, основанный на принципах свободного рынка — множество
реализаций, открытые стандарты, независимые аудиты, конкурирующие
поставщики — уменьшает количество точек отказа и способствует более
быстрому выявлению слабых мест.
Ещё один момент. Мы часто находим
утешение в тех границах, которые, как нам кажется, машины не
переступят, но иногда эти границы меняются. День Q — одно из таких
движений. Он не предвещает конца конфиденциальности или краха коммерции,
так же как проблема 2000 года не предвещала конца вычислительной
техники. Но он заставляет нас столкнуться с истиной, которую австрийская
школа политологии давно подчёркивает: сложные порядки сохраняются не
потому, что они гарантированы, а потому, что они поддерживаются — за
счёт стимулов, институтов и постоянной адаптации к меняющимся знаниям.
И
пока у нас ещё есть способность действовать целенаправленно,
сингулярность, если она произойдёт, будет представлять собой более
высокий уровень человеческого интеллекта и человеческой жизни в целом.
Мы не будем пассивно это принимать. Соображения соотношения затрат и
выгод всегда будут иметь значение, как и наше моральное чувство того,
что правильно. Как писал Рэй Курцвейл :
Поскольку
ИИ развивается в рамках глубоко интегрированной экономической
инфраструктуры, он будет отражать наши ценности, потому что в важном
смысле он будет самим собой. Мы уже являемся цивилизацией, объединяющей
человека и машину. В конечном счете, наиболее важный подход, который мы
можем использовать для обеспечения безопасности ИИ, — это защита и
совершенствование наших институтов управления и социальных институтов.
Как я уже утверждал ранее , наш институт управления человеческими ресурсами нуждается в радикальной перестройке.
https://www.zerohedge.com/technology/lines-we-thought-machines-wouldnt-cross