Децентрализованный ИИ выйдет за рамки прототипов | Томас Эрнандо Кофман, соучредитель Not Diamond
“Значительная часть корпоративной колоколообразной кривой начинает смещаться от экспериментов к системам производственного уровня”, - сказал
Томас Эрнандо Кофман, соучредитель
Not Diamond, многомодельной платформы инфраструктуры ИИ, в интервью
IBM Think.
Этот переход будет непростым: “Командам по ИИ придется вложить значительные средства в оценку, надежность, оптимизацию, эффективность, масштабируемость и ремонтопригодность”, - сказал он.
Это потребует серьезной координации и ресурсов. Если компании не будут делать инвестиции, они в конечном итоге окажутся в тупике: отсутствие нужных возможностей означает, что системы бесполезны, а отсутствие полезности только усугубляет проблему.
На переднем крае проблемы выглядят иначе. “Я считаю, что в этой области придется столкнуться с тремя основными препятствиями: непрерывным обучением, памятью и масштабируемостью”, - сказал Кофман.
Работа будет вестись как на уровне архитектуры модели, так и в агентских системах.
“Мы начнем видеть децентрализованные сети агентов, которые смогут учиться друг у друга, обмениваться информацией и сохранять важные знания на протяжении длительного периода — недель, месяцев и даже лет”, - сказал он. “Эти системы повысят динамичность и постоянное совершенствование, позволяя агентам и моделям специализироваться на эффективных, сфокусированных возможностях”.
Средства совместной защиты будут бороться с вооруженным ИИ | Бен Колман, генеральный директор и соучредитель Reality Defender
Ни одна организация в одиночку не сможет решить проблему
глубокой подделкии вооруженного искусственного интеллекта, тем более что в конце этого года появились новые векторы угроз, такие как вооруженные агенты искусственного интеллекта, сказал
Бен Колман, генеральный директор и соучредитель
Reality Defender, компании по кибербезопасности, предлагающей инструменты обнаружения глубокой подделки. Быстрое развитие генеративного ИИ требует создания экосистемы для совместной работы.
“Стратегические партнерства необходимы не только для укрепления обороны, но и для прогнозирования следующей волны сложных моделей и отраслевых уязвимостей”, - сказал он
IBM Think.
“Я вижу, что эти партнерские отношения в нашей отрасли между нами самими, другими участниками, работающими над различными аспектами аналогичной проблемы, и так далее развиваются так же быстро, как и достижения в области ИИ, если не быстрее”.
Колман отмечает сдвиг в сторону многоуровневой модели безопасности. “При объединении различных средств защиты пробелы в одном слое закрываются другим, создавая непроницаемый щит”, - сказал он.
Интеграция определит следующий этап. “Когда эти новые технологии сочетаются с платформами обнаружения, подобными нашей, результатом становится комплексная стратегия ‘глубокой защиты”, - сказал он. “Это гарантирует организациям защиту во всех форматах мультимедиа и точках входа, во всех вариантах использования и во всех наборах инструментов — вместо того, чтобы полагаться на единственную точку отказа”.
Устойчивость ИИ станет критически важной | Энтони Маршалл, старший директор и вице-президент IBM Institute for Business Value
Организации не могут позволить, чтобы их проекты в области искусственного интеллекта прерывались, но бизнес-лидеры могут контролировать лишь немногое. Суверенитет искусственного интеллекта — способность управлять системами искусственного интеллекта, данными и инфраструктурой, не полагаясь на внешние организации, — стал критически важным, сказал
Энтони Маршалл, старший директор и вице-президент
IBM Institute for Business Value(IBV).
Для
93% руководителей, опрошенных IBV, учет суверенитета ИИ в бизнес-стратегии будет обязательным в 2026 году. “Это не просто проверка”, - сказал Маршалл.
Половина руководителей обеспокоена чрезмерной зависимостью от вычислительных ресурсов в определенных регионах (эта проблема особенно актуальна среди бизнес-лидеров на Ближнем Востоке и в Азиатско-Тихоокеанском регионе), и многие считают, что зависимость от этих ресурсов может привести к широкому спектру рисков. Подумайте об утечках данных, потере доступа к данным и краже интеллектуальной собственности.
Прозрачность и доверие также останутся приоритетами. “И регулирующие органы, и потребители просят организации объяснить, как агенты ИИ приходят к конкретным решениям. Организации должны разрабатывать агентов, которые могут продемонстрировать свою работу даже при выполнении самых сложных задач”, - сказал Маршалл.
Это означает укрепление суверенитета с помощью модульной архитектуры среды искусственного интеллекта, позволяющей распределять рабочие нагрузки, данные и агентов между надежными регионами и поставщиками.
“Постоянный мониторинг необходим для обнаружения и устранения
отклонений модели до того, как это поставит под угрозу производительность или приведет к предвзятости”, - сказал Маршалл.