Добро пожаловать в Shenzhen Mingjiada Electronics Co., Ltd.

NVIDIA NeMo Guardrails включает новые микросервисы NVIDIA NIM, которые повышают точность, безопасность и контроль ИИ для организаций, создающих ИИ в разных отраслях.

Ожидается, что ИИ-интеллекты станут «роботами знаний», способными выполнять широкий спектр задач, повышая продуктивность миллиардов работников сферы знаний по всему миру. Для создания ИИ-интеллектов организациям необходимо решить такие ключевые вопросы, как доверие, физическая безопасность, кибербезопасность и соответствие нормативным требованиям.

Новые микросервисы NVIDIA NIM AI Guardrail являются частью семейства программных инструментов NVIDIA NeMo Guardrails. Эти переносимые и оптимизированные микросервисы вывода помогают предприятиям повысить безопасность, точность и масштабируемость приложений генеративного ИИ.

Эти микросервисы организованы вокруг ядра NeMo Guardrails, которое является частью платформы NVIDIA NeMo Platform для управления, настройки и защиты ИИ, и помогают разработчикам интегрировать и управлять защитными механизмами ИИ в приложениях Large Language Model (LLM). Лидеры индустрии, такие как Amdocs, Cerence AI и Lowe's, используют NeMo Guardrails для защиты приложений ИИ.

Разработчики могут использовать микросервисы NIM для создания более безопасных и надежных интеллектуальных систем ИИ. Такие интеллекты будут реагировать безопасно и адекватно, принимая во внимание контекстно-зависимые рекомендации, и будут более устойчивы к попыткам джейлбрейка. Их можно использовать в сфере обслуживания клиентов в таких отраслях, как автомобилестроение, финансы, здравоохранение, производство, розничная торговля и других, чтобы повысить удовлетворенность и доверие клиентов.

Одна из этих новых микрослужб создана специально для аудита безопасности контента и обучается на основе Aegis Content Safety Dataset, одного из самых качественных источников данных с человеческим аннотированием в своем роде. Набор данных собран и принадлежит компании NVIDIA и находится в открытом доступе на сайте Hugging Face. Набор содержит более 35 000 образцов данных с ручной маркировкой, которые были помечены на предмет безопасности ИИ и попыток джейлбрейка для обхода системных ограничений.

NVIDIA NeMo Guardrails держит ИИ интеллект на контроле

ИИ быстро повышает производительность широкого спектра бизнес-процессов. При трансформации обслуживания клиентов он может ускорить решение их проблем на 40 %. Однако для масштабирования ИИ и других интеллектуальных систем для обслуживания клиентов необходимы безопасные модели, которые предотвращают вредные или неуместные результаты и обеспечивают работу приложений ИИ в рамках определенных параметров.

NVIDIA представила три новых микросервиса NIM для NeMo Guardrails, которые помогают ИИ-интеллектам работать в масштабе, сохраняя контролируемое поведение:

● Микросервис NIM Content Security: не позволяет ИИ генерировать предвзятые или вредные результаты и обеспечивает этичную реакцию.

● Контроль тем Микросервисы NIM: фокусируют разговоры на проверенных темах, чтобы избежать отклонения от темы или неуместного контента.

● Обнаружение побега из тюрьмы Микросервисы NIM: добавляют защиту от попыток побега из тюрьмы, чтобы помочь сохранить целостность ИИ во враждебных сценариях.

Поскольку универсальный подход не может эффективно защищать и контролировать сложные рабочие процессы ИИ на базе агентов, применение нескольких легких специализированных моделей в качестве защитных ограждений позволяет разработчикам устранить пробелы, которые могут возникнуть при использовании только общих глобальных политик и средств защиты.

Небольшие языковые модели, такие как модели семейства NeMo Guardrails, имеют низкую задержку и эффективно работают даже в ограниченных ресурсах или распределенных средах, что делает их идеальными для масштабирования приложений ИИ для таких отраслей, как здравоохранение, автомобилестроение и производство, а также для таких мест, как больницы или склады.

Лидеры отрасли и партнеры обеспечивают безопасность ИИ с помощью NeMo Guardrails

Теперь NeMo Guardrails, доступный для сообщества с открытым исходным кодом, помогает разработчикам повысить безопасность и контроль LLM-приложений за счет оркестровки нескольких программных политик ИИ, известных как рельсы. Вместе с микросервисами NVIDIA NIM они образуют мощный фреймворк для создания систем ИИ, которые можно развернуть в масштабе без ущерба для безопасности и производительности.

Amdocs, ведущий мировой поставщик ПО и услуг для медиа-компаний, использует NeMo Guardrails для обеспечения более безопасных, точных и контекстуальных ответов для улучшения взаимодействия с клиентами на основе ИИ.

Такие технологии, как NeMo Guardrails, крайне важны для обеспечения безопасности приложений генеративного ИИ, чтобы помочь ИИ работать безопасно и этично, - говорит Энтони Гунетиллеке, президент и глава отдела стратегии Amdocs Technology Group. Мы расширяем возможности «Trusted AI» нашей платформы amAIz за счет интеграции NVIDIA NeMo Guardrails в платформу, чтобы гарантировать безопасность, надежность и масштабируемость агентского опыта». Это позволит поставщикам услуг безопасно и надежно внедрять ИИ-решения, устанавливая новый стандарт инноваций и операционного совершенства в ИИ».

Cerence AI - компания, специализирующаяся на ИИ-решениях для автомобильной промышленности. Компания использует NVIDIA NeMo Guardrails, чтобы помочь своим бортовым ассистентам обеспечить контекстно-безопасное взаимодействие, поддерживаемое семейством больших и малых языковых моделей CaLLM.

Cerence AI полагается на безопасные и высокопроизводительные решения NVIDIA для работы наших автомобильных ассистентов», - сказал Нильс Шанц (Nils Schanz), исполнительный вице-президент по продуктам и технологиям в Cerence AI. Использование NeMo Guardrails помогает нам предоставить нашим автомобильным клиентам надежное контекстно-ориентированное решение с обоснованными, строгими и не вызывающими галлюцинаций ответами». Кроме того, NeMo Guardrails может быть настроен в соответствии с потребностями наших клиентов-производителей автомобилей, помогая нам фильтровать вредные или недружественные запросы и не позволяя нашим языковым моделям семейства CaLLM предоставлять конечным пользователям неожиданный или неуместный контент».

Ведущий ритейлер товаров для дома Lowe's использует генеративный ИИ для повышения квалификации своих продавцов. Предоставляя более полные знания о продукции, эти инструменты позволяют сотрудникам магазинов отвечать на вопросы покупателей, помогать им находить нужные товары для своих проектов и устанавливать новые стандарты инноваций в розничной торговле и удовлетворенности клиентов.

Мы всегда ищем способы помочь нашим сотрудникам предоставить клиентам больше, чем от них ожидается», - сказал Чандху Наир (Chandhu Nair), старший вице-президент по данным, ИИ и инновациям в Lloyd's. Благодаря недавнему внедрению NVIDIA NeMo Guardrails мы можем обеспечить безопасность и надежность ответов, генерируемых ИИ, заставляя собеседников ограничиваться актуальным и подходящим контентом».

Чтобы еще больше ускорить внедрение мер безопасности ИИ в разработку и развертывание приложений ИИ для розничной торговли, NVIDIA недавно объявила на выставке NRF (National Retail Federation), что NVIDIA AI Blueprint for Retail Shopping Assistants интегрируется с микросервисами NeMo Guardrails, создавая цифровой шопинг для более надежного и контролируемого взаимодействия с клиентами для цифровых покупок.

Лидеры консалтинга Taskus, Tech Mahindra и Wipro также интегрируют NeMo Guardrails в свои решения, чтобы предоставить корпоративным клиентам более безопасные, надежные и контролируемые приложения генеративного ИИ.

Благодаря своей открытости и расширяемости NeMo Guardrails интегрируется с надежной экосистемой ведущих моделей безопасности ИИ и поставщиков средств защиты, а также инструментов наблюдения и разработки ИИ. Поддерживается интеграция с ActiveScore от ActiveFence для защиты от вредоносного или неуместного контента в приложениях разговорного ИИ, а также предоставляются возможности визуализации, анализа и мониторинга.

Hive предоставляет модели обнаружения контента, генерируемые ИИ, для изображений, видео и аудиоконтента в виде микросервисов NIM. Используя NeMo Guardrails, компания может легко интегрировать и оркестровать свои модели в приложения ИИ.

Fiddler, платформа наблюдаемости ИИ, легко интегрируется с NeMo Guardrails для расширения возможностей мониторинга AI Guardrails. Weights & Biases, комплексная платформа для разработчиков ИИ, расширяет свой портфель интеграций с NIM для повышения эффективности ИИ-рассуждений в производстве, расширяя возможности W&B Weave за счет интеграции с микросервисами NeMo Guardrails.