Un praticien de l'IA crée une invite réutilisable dans Amazon Bedrock Prompt Management qui doit appeler des API ou des services externes pendant l'exécution. Quelle fonctionnalité devrait-il utiliser pour permettre l'appel de services externes ?

La définition d'une configuration d'outils (Tool configuration) est la bonne approche. Dans Amazon Bedrock Prompt Management, les outils permettent aux modèles de langage d'interagir avec des API externes ou des services pour récupérer des informations ou effectuer des actions. En définissant une configuration d'outils, vous spécifiez les fonctions que le modèle peut appeler et les paramètres requis, ce qui lui permet d'intégrer des capacités externes à l'invite. Insérer des jetons spéciaux dans l'invite n'est pas une méthode standard pour appeler des services externes ; les jetons sont généralement utilisés pour la tokenisation ou des instructions spécifiques au modèle. Utiliser des variables d'invite sert à injecter des données dynamiques dans l'invite, mais pas à déclencher des appels d'API. Utiliser une séquence d'arrêt est destiné à contrôler la fin de la génération de la sortie du modèle, et non à l'intégration de services externes.