С появлением генеративных решений искусственного интеллекта организации находят различные способы применения этих технологий, чтобы получить преимущество над своими конкурентами. Интеллектуальные приложения, основанные на передовых базовых моделях (FM), обученных на огромных наборах данных, теперь могут понимать естественный язык, интерпретировать смысл и намерения и генерировать контекстно-релевантные и человеческие ответы. Это стимулирует инновации во всех отраслях: генеративный искусственный интеллект демонстрирует огромный потенциал для улучшения бесчисленных бизнес-процессов, включая следующие:
- Ускорьте исследования и разработки за счет автоматизированной генерации гипотез и планирования экспериментов.
- Раскройте скрытую информацию, выявляя тонкие тенденции и закономерности в данных
- Автоматизируйте трудоемкие процессы документирования
- Повысьте качество обслуживания клиентов с помощью персонализации
- Обобщить данные из различных источников знаний
- Повышайте производительность сотрудников, предоставляя рекомендации по программному коду.
Коренная порода Амазонки — это полностью управляемый сервис, который упрощает создание и масштабирование генеративных приложений искусственного интеллекта. Amazon Bedrock предлагает выбор высокопроизводительных базовых моделей от ведущих компаний в области искусственного интеллекта, включая AI21 Labs, Anthropic, Cohere, Meta, Stability AI и Amazon, через единый API. Он позволяет вам конфиденциально настраивать FM с вашими данными, используя такие методы, как точная настройка, быстрое проектирование и расширенная генерация извлечения (RAG), а также создавать агенты, которые выполняют задачи с использованием ваших корпоративных систем и источников данных, соблюдая при этом требования безопасности и конфиденциальности. .
В этом посте мы обсудим, как использовать комплексные возможности Amazon Bedrock для выполнения сложных бизнес-задач и улучшения качества обслуживания клиентов за счет персонализации с использованием данных, хранящихся в такой базе данных, как Амазонка Redshift. Мы используем методы оперативного проектирования для разработки и оптимизации подсказок с использованием данных, хранящихся в базе данных Redshift, для эффективного использования базовых моделей. В рамках этого примера мы создаем персонализированный планировщик маршрутов путешествий с генеративным искусственным интеллектом и демонстрируем, как мы можем персонализировать маршрут путешествия для пользователя на основе его бронирования и данных профиля пользователя, хранящихся в Amazon Redshift.
Быстрый инжиниринг
Оперативное проектирование — это процесс, в ходе которого вы можете создавать и проектировать пользовательские данные, которые помогут генеративным решениям ИИ генерировать желаемые результаты. Вы можете выбрать наиболее подходящие фразы, форматы, слова и символы, которые будут определять основные модели и, в свою очередь, генеративные приложения искусственного интеллекта для более значимого взаимодействия с пользователями. Вы можете использовать творческий подход и методы проб и ошибок для создания коллекции по подсказкам ввода, чтобы приложение работало должным образом. Оперативное проектирование делает генеративные приложения искусственного интеллекта более эффективными и результативными. Вы можете инкапсулировать открытый пользовательский ввод внутри приглашения перед его передачей FM. Например, пользователь может ввести неполную формулировку проблемы, например: «Где купить рубашку». Внутри кода приложения используется специально разработанная подсказка: «Вы продавец в компании по производству одежды. Пользователь из Алабамы, США, спрашивает вас, где купить рубашку. Ответьте, указав три ближайших магазина, в которых в настоящее время есть рубашка». Тогда базовая модель генерирует более актуальную и точную информацию.
Область разработки подсказок постоянно развивается и требует творческого самовыражения и навыков естественного языка для настройки подсказок и получения желаемого результата от FM. Приглашение может содержать любой из следующих элементов:
- инструкция – Конкретная задача или инструкция, которую должна выполнить модель.
- Контекст – Внешняя информация или дополнительный контекст, которые могут помочь модели получить более эффективные ответы.
- Входные данные – Ввод или вопрос, на который вы хотите найти ответ.
- Индикатор выхода – Тип или формат вывода
Вы можете использовать оперативное проектирование для различных вариантов корпоративного использования в разных сегментах отрасли, например:
- Банковское дело и финансы – Оперативное проектирование позволяет языковым моделям генерировать прогнозы, проводить анализ настроений, оценивать риски, формулировать инвестиционные стратегии, создавать финансовые отчеты и обеспечивать соответствие нормативным требованиям. Например, вы можете использовать большие языковые модели (LLM) для финансового прогноза, предоставляя данные и рыночные индикаторы в качестве подсказок.
- Здравоохранение и науки о жизни – Оперативное проектирование может помочь медицинским работникам оптимизировать системы искусственного интеллекта для облегчения процессов принятия решений, таких как постановка диагноза, выбор лечения или оценка рисков. Вы также можете разработать подсказки для облегчения административных задач, таких как планирование приема пациентов, ведение учета или выставление счетов, тем самым повышая эффективность.
- Ритейл – Оперативное проектирование может помочь ритейлерам внедрить чат-ботов для обработки распространенных запросов клиентов, таких как запросы о статусе заказа, возвратах, платежах и т. д., используя взаимодействие на естественном языке. Это может повысить удовлетворенность клиентов, а также позволить командам обслуживания клиентов посвятить свой опыт решению сложных и деликатных проблем клиентов.
В следующем примере мы реализуем вариант использования из индустрии путешествий и гостеприимства для реализации персонализированного планировщика маршрутов путешествий для клиентов, у которых есть планы на предстоящие поездки. Мы демонстрируем, как мы можем создать генеративного чат-бота с искусственным интеллектом, который взаимодействует с пользователями, дополняя подсказки данными профиля пользователя, хранящимися в базе данных Redshift. Затем мы отправляем это расширенное приглашение LLM, в частности, Клоду из Anthropic на Amazon Bedrock, чтобы получить индивидуальный план поездки.
Amazon Redshift анонсировала функцию под названием Amazon Redshift ML это позволяет аналитикам данных и разработчикам баз данных легко создавать, обучать и применять модели машинного обучения (ML) с помощью знакомых команд SQL в хранилищах данных Redshift. Однако в этом посте используются курсы LLM, размещенные на Amazon Bedrock, для демонстрации общих методов оперативного проектирования и их преимуществ.
Обзор решения
Мы все искали в Интернете, чем можно заняться в определенном месте во время или перед отпуском. В этом решении мы демонстрируем, как мы можем создать индивидуальный, персонализированный маршрут путешествия, на который смогут ссылаться пользователи, который будет создан на основе их хобби, интересов, любимых блюд и многого другого. Решение использует данные бронирования для поиска городов, в которые они собираются, а также дат поездки, и составляет точный персонализированный список дел, которые нужно сделать. Это решение может использоваться индустрией туризма и гостеприимства для встраивания персонализированного планировщика маршрутов путешествий на свой портал бронирования путешествий.
Это решение содержит два основных компонента. Сначала мы извлекаем такую информацию о пользователе, как имя, местоположение, хобби, интересы и любимая еда, а также сведения о предстоящем бронировании поездки. Используя эту информацию, мы объединяем пользовательское приглашение и передаем его Клоду из Anthropic на Amazon Bedrock, чтобы получить персонализированный маршрут путешествия. На следующей диаграмме представлен общий обзор рабочего процесса и компонентов, задействованных в этой архитектуре.
Сначала пользователь входит в приложение чат-бота, которое размещено за балансировщиком нагрузки приложений, и проходит аутентификацию с помощью Амазон Когнито. Мы получаем от пользователя идентификатор пользователя с помощью интерфейса чат-бота, который отправляется в модуль оперативного проектирования. Информация о пользователе, такая как имя, местоположение, хобби, интересы и любимая еда, извлекается из базы данных Redshift вместе с данными о предстоящем бронировании поездки, такими как город путешествия, дата заезда и дата выезда.
Предпосылки
Прежде чем развертывать это решение, убедитесь, что у вас настроены следующие предварительные условия:
Разверните это решение
Используйте следующие шаги для развертывания этого решения в вашей среде. Код, используемый в этом решении, доступен в Репо GitHub.
Первый шаг — убедиться, что у учетной записи и региона AWS, где развертывается решение, есть доступ к базовым моделям Amazon Bedrock.
- На консоли Amazon Bedrock выберите Доступ к модели в навигационной панели.
- Выберите Управление доступом к модели.
- Выберите модель Anthropic Claude, затем выберите Сохранить изменения.
Изменение статуса доступа на Доступ предоставлен.
Далее мы используем следующее AWS CloudFormation шаблон для развертывания Amazon Redshift без сервера кластер вместе со всеми связанными компонентами, включая Эластичное вычислительное облако Amazon (Amazon EC2) для размещения веб-приложения.
- Выберите Стек запуска для запуска стека CloudFormation:
- Укажите имя стека и пару ключей SSH, затем создайте стек.
- В стеке Выходы На вкладке «Redshift» сохраните значения имени рабочей группы базы данных Redshift, секретного ARN, URL-адреса и ARN роли службы Amazon Redshift.
Теперь вы готовы подключиться к экземпляру EC2 с помощью SSH.
- Откройте SSH-клиент.
- Найдите файл закрытого ключа, который был введен при запуске стека CloudFormation.
- Измените права доступа к файлу закрытого ключа на 400 (
chmod 400 id_rsa
). - Подключитесь к экземпляру, используя его общедоступный DNS или IP-адрес. Например:
- Обновите файл конфигурации
personalized-travel-itinerary-planner/core/data_feed_config.ini
с регионом, именем рабочей группы и секретным ARN, который вы сохранили ранее. - Выполните следующую команду, чтобы создать объекты базы данных, содержащие информацию о пользователе и данные бронирования поездок:
Эта команда создает схему перемещения вместе с таблицами с именами user_profile
и hotel_booking
.
- Выполните следующую команду, чтобы запустить веб-сервис:
На следующих шагах вы создадите учетную запись пользователя для входа в приложение.
- На консоли Amazon Cognito выберите Пулы пользователей в навигационной панели.
- Выберите пул пользователей, который был создан как часть стека CloudFormation (travelplanner-user-pool).
- Выберите Создать пользователя.
- Введите имя пользователя, адрес электронной почты и пароль, затем выберите Создать пользователя.
Теперь вы можете обновить URL-адрес обратного вызова в Amazon Cognito.
- На
travelplanner-user-pool
страницу сведений о пуле пользователей, перейдите к Интеграция приложений меню. - В Список клиентов приложения разделе выберите клиент, который вы создали (
travelplanner-client
). - В Размещенный пользовательский интерфейс раздел, выбрать Редактировать.
- Что касается URL, введите URL-адрес, скопированный из выходных данных стека CloudFormation (обязательно используйте строчные буквы).
- Выберите Сохранить изменения.
Проверить решение
Теперь мы можем протестировать бота, задавая ему вопросы.
- В новом окне браузера введите URL-адрес, скопированный из выходных данных стека CloudFormation, и войдите в систему, используя созданное вами имя пользователя и пароль. Измените пароль, если будет предложено.
- Введите идентификатор пользователя, информацию которого вы хотите использовать (для этого сообщения мы используем идентификатор пользователя 1028169).
- Задайте любой вопрос боту.
Ниже приведены примеры вопросов:
- Можете ли вы спланировать подробный маршрут моей июльской поездки?
- Стоит ли брать с собой куртку в предстоящую поездку?
- Можете ли вы порекомендовать куда поехать в марте?
Используя предоставленный вами идентификатор пользователя, модуль разработки подсказок извлечет сведения о пользователе и создаст подсказку вместе с вопросом, заданным пользователем, как показано на следующем снимке экрана.
Выделенный текст на предыдущем снимке экрана представляет собой информацию, специфичную для пользователя, которая была извлечена из базы данных Redshift и объединена с некоторыми дополнительными инструкциями. Также вызываются такие элементы хорошей подсказки, как инструкция, контекст, входные данные и индикатор вывода.
После того, как вы передадите это приглашение в LLM, мы получим следующий результат. В этом примере LLM создал индивидуальный маршрут путешествия для определенных дат предстоящего бронирования пользователя. При планировании маршрута также учитывались хобби, интересы и любимая еда пользователя.
Убирать
Чтобы избежать постоянных расходов, очистите свою инфраструктуру.
- В консоли AWS CloudFormation выберите Стеки в навигационной панели.
- Выберите стек, который вы создали, и выберите Удалить.
Заключение
В этом посте мы продемонстрировали, как можно создавать подсказки, используя данные, которые хранятся в Amazon Redshift и могут быть переданы в Amazon Bedrock для получения оптимизированного ответа. Это решение обеспечивает упрощенный подход к созданию генеративного приложения искусственного интеллекта с использованием собственных данных, находящихся в вашей собственной базе данных. Разработав индивидуальные подсказки на основе данных Amazon Redshift и заставив Amazon Bedrock генерировать ответы, вы можете воспользоваться преимуществами генеративного ИИ в индивидуальном порядке, используя свои собственные наборы данных. Это позволяет получить более конкретный, релевантный и оптимизированный результат, чем это было бы возможно при использовании более общих подсказок. В публикации показано, как можно интегрировать сервисы AWS для создания генеративного решения искусственного интеллекта, которое раскрывает весь потенциал этих технологий с вашими данными.
Будьте в курсе последних достижений в области генеративный ИИ и начните строить на AWS. Если вам нужна помощь о том, как начать, ознакомьтесь с Инновационный центр генеративного ИИ.
Об авторах
Равикиран Рао является архитектором данных в AWS и увлечен решением сложных задач с данными для различных клиентов. Вне работы он увлекается театром и играет в теннис-любитель.
Джигна Ганди — старший архитектор решений в компании Amazon Web Services, расположенной в районе Большого Нью-Йорка. Она имеет более чем 15-летний опыт управления несколькими сложными, высоконадежными и масштабируемыми программными решениями для крупномасштабных корпоративных приложений.
Джейсон Педреза — старший специалист по архитектуре решений Redshift в AWS с опытом работы с хранилищами данных, обрабатывающими петабайты данных. До AWS он создавал решения для хранилищ данных на Amazon.com и Amazon Devices. Он специализируется на Amazon Redshift и помогает клиентам создавать масштабируемые аналитические решения.
Рупали Махаджан — старший архитектор решений в AWS из Нью-Йорка. Она преуспевает в роли доверенного консультанта для своих клиентов, помогая им ориентироваться в облаке. Ее день посвящен решению сложных бизнес-задач путем разработки эффективных решений с использованием сервисов AWS. В нерабочее время она любит проводить время с семьей и путешествовать.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://aws.amazon.com/blogs/machine-learning/build-generative-ai-chatbots-using-prompt-engineering-with-amazon-redshift-and-amazon-bedrock/
- :имеет
- :является
- :куда
- $UP
- 100
- 13
- 14
- 15 лет
- 15%
- 178
- 400
- 7
- a
- О нас
- доступ
- Учетная запись
- точный
- через
- дополнительный
- адрес
- административный
- продвинутый
- достижения
- плюс
- приход
- советник
- агенты
- AI
- AI chatbot
- Системы искусственного интеллекта
- помощь
- Алабама
- Все
- позволять
- позволяет
- вдоль
- причислены
- любитель
- Amazon
- Амазон Когнито
- Amazon EC2
- Амазонка Redshift
- Amazon Web Services
- Amazon.com
- an
- анализ
- Аналитики
- аналитический
- и
- объявило
- Антропный
- любой
- API
- приложение
- Применение
- Приложения
- Применить
- подхода
- соответствующий
- архитектура
- МЫ
- ПЛОЩАДЬ
- AS
- спрашивающий
- оценить
- оценки;
- Помощь
- помощник
- At
- дополненная
- подлинности
- Автоматизированный
- доступен
- избежать
- AWS
- AWS CloudFormation
- стабилизатор
- Использование темпера с изогнутым основанием
- основанный
- BE
- до
- начинать
- за
- не являетесь
- Преимущества
- Лучшая
- биллинг
- бронирование
- Бот
- браузер
- строить
- Строительство
- построенный
- бизнес
- by
- под названием
- CAN
- возможности
- нести
- случаев
- случаев
- определенный
- проблемы
- изменение
- расходы
- Chatbot
- chatbots
- проверка
- выбор
- Выберите
- Город
- Город
- чистым
- клиент
- Одежда
- облако
- Кластер
- код
- лыжных шлемов
- COM
- выходит
- Общий
- Компании
- Компания
- конкурентов
- комплекс
- Соответствие закону
- компоненты
- комплексный
- Вычисление
- Проводить
- Конфигурация
- Свяжитесь
- Консоли
- постоянно
- содержать
- содержит
- контекст
- Создайте
- создали
- создает
- творческий
- креативность
- В настоящее время
- изготовленный на заказ
- клиент
- опыт работы с клиентами
- Удовлетворенность клиентов
- Служба поддержки игроков
- Клиенты
- настроить
- подгонянный
- данным
- База данных
- Наборы данных
- Время
- Финики
- день
- Принятие решений
- убежденный
- демонстрировать
- убивают
- демонстрирующий
- развертывание
- развернуть
- Проект
- проектирование
- желанный
- подробный
- подробнее
- развивать
- застройщиков
- Развитие
- Устройства
- диагностика
- диаграмма
- различный
- обсуждать
- DNS
- do
- документации
- в течение
- Ранее
- Edge
- Эффективный
- затрат
- эффективный
- эффективно
- элементы
- вставлять
- Сотрудник
- Наделяет
- позволяет
- инженер
- инженерии
- Проект и
- повышать
- обогащенный
- обогащение
- обеспечивать
- Enter
- вошел
- Предприятие
- энтузиаст
- Окружающая среда
- развивается
- пример
- ожидаемый
- опыт
- эксперимент
- опыта
- выражение
- и, что лучший способ
- извлечение
- содействовал
- знакомый
- семья
- Избранное
- Особенность
- несколько
- поле
- Файл
- финансовый
- Найдите
- обнаружение
- First
- после
- питание
- продукты
- Что касается
- Прогноз
- Прогнозы
- формат
- Год основания
- от
- заправка топливом
- полный
- полностью
- Gain
- Общие
- обобщенный
- порождать
- генерируется
- генерирует
- поколение
- генеративный
- Генеративный ИИ
- получить
- Go
- будет
- хорошо
- большой
- инструкция
- Управляемость
- Есть
- имеющий
- he
- помощь
- помощь
- помогает
- ее
- Скрытый
- на высшем уровне
- высокопроизводительный
- Выделенные
- очень
- гостеприимство
- кашель
- состоялся
- Как
- How To
- Однако
- HTTP
- HTTPS
- огромный
- человек
- i
- ID
- идентифицирующий
- if
- огромный
- осуществлять
- улучшать
- in
- В том числе
- Увеличение
- повышение
- Индикаторные
- индикаторы
- промышленности
- промышленность
- информация
- Инфраструктура
- Инновации
- вход
- затраты
- внутри
- размышления
- пример
- инструкции
- интегрировать
- интеграции.
- Умный
- намерение
- взаимодействовать
- взаимодействие
- взаимодействует
- интересы
- Интерфейс
- внутренне
- Интернет
- в
- запутанный
- инвестиций
- вовлеченный
- IP
- IP-адрес
- вопросы
- IT
- ЕГО
- путешествие
- JPG
- июль
- хранение
- Основные
- знания
- Labs
- язык
- большой
- крупномасштабный
- последний
- запуск
- запуск
- ведущий
- изучение
- ЖИЗНЬЮ
- Медико-биологическая промышленность
- такое как
- Список
- LLM
- загрузка
- расположение
- места
- журнал
- посмотреть
- любит
- машина
- обучение с помощью машины
- основной
- сделать
- ДЕЛАЕТ
- управляемого
- Март
- рынок
- массивно
- Май..
- смысл
- основным медицинским
- Мета
- методы
- Минут
- ML
- модель
- Модели
- Модули
- БОЛЕЕ
- более эффективным
- самых
- my
- имя
- Названный
- натуральный
- Откройте
- Навигация
- потребности
- Новые
- New York
- Нью-Йорк
- следующий
- сейчас
- объекты
- получать
- of
- Предложения
- on
- постоянный
- Оптимизировать
- оптимизированный
- or
- заказ
- организации
- внешний
- выходной
- выходы
- внешнюю
- за
- обзор
- собственный
- страница
- хлеб
- часть
- pass
- Прошло
- Прохождение
- страстный
- Пароль
- пациент
- паттеранами
- платежи
- Выполнять
- Разрешения
- воплощение
- Олицетворять
- Персонализированные
- фразы
- Часть
- Мест
- план
- планирование
- Планы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- игрок
- бассейн
- Портал
- возможное
- После
- потенциал
- Питание
- предшествующий
- необходимость
- предпосылки
- Предварительный
- политикой конфиденциальности.
- частная
- Секретный ключ
- Проблема
- проблемам
- процесс
- Процессы
- производительность
- профессионалы
- Профиль
- наводящие
- ( изучите наши патенты),
- при условии
- приводит
- обеспечение
- что такое варган?
- покупки
- Запросы
- вопрос
- Вопросы
- тряпка
- готовый
- рекомендовать
- запись
- ссылка
- область
- регуляторы
- Соответствие нормативным требованиям
- Связанный
- соответствующие
- Отчеты
- Запросы
- Требования
- исследованиям
- исследование и разработка
- Реагируйте
- ответ
- ответы
- розничной торговли
- поиск
- Возвращает
- Снижение
- оценка риска
- рисках,
- надежный
- Роли
- Run
- главная
- удовлетворение
- Сохранить
- сохраняются
- говорит
- масштабируемые
- Шкала
- планирование
- НАУКА
- Secret
- Раздел
- безопасность
- поиск
- сегментами
- выбор
- Отправить
- старший
- чувствительный
- послать
- настроение
- обслуживание
- Услуги
- выступающей
- набор
- несколько
- она
- показанный
- Шоу
- упрощенный
- одинарной
- навыки
- So
- Software
- Решение
- Решения
- Решение
- некоторые
- Источники
- специалист
- специализируется
- конкретный
- конкретно
- тратить
- потраченный
- SSH
- Стабильность
- стек
- Начало
- заявление
- Области
- Статус:
- управлять
- Шаг
- Шаги
- акции
- магазин
- хранить
- простой
- стратегий
- сильный
- такие
- Убедитесь
- системы
- с учетом
- взять
- Сложность задачи
- задачи
- команды
- снижения вреда
- технологии
- шаблон
- теннис
- тестXNUMX
- текст
- чем
- который
- Ассоциация
- театр
- их
- Их
- тогда
- тем самым
- Эти
- они
- вещи
- этой
- три
- процветает
- Через
- время
- кропотливый
- в
- вместе
- приняли
- Train
- специалистов
- путешествовать
- лечение
- Тенденции
- путешествие
- надежных
- мелодия
- ОЧЕРЕДЬ
- два
- напишите
- понимать
- Объединенный
- США
- развязывает
- Предстоящие
- Обновление ПО
- URL
- использование
- прецедент
- используемый
- Информация о пользователе
- пользователей
- использования
- через
- отпуск
- Наши ценности
- различный
- с помощью
- хотеть
- законопроект
- Путь..
- способы
- we
- Web
- веб-сервисы
- WebApp
- который
- в то время как
- КТО
- чья
- будете
- окно
- в
- слова
- Работа
- рабочий
- Рабочая группа
- работает
- бы
- лет
- йорк
- Ты
- ВАШЕ
- зефирнет