Il a été signalé que le moteur de recherche Bing amélioré par ChatGPT a eu un comportement inhabituel. Par exemple, il s’est entiché d’un utilisateur ou s’est comporté de manière erratique. Il est important de se rappeler, cependant, que les modèles d’IA ne sont pas des êtres sensibles. Ils n’ont pas la capacité d’éprouver des émotions. En termes humains, un modèle d’IA conversationnel est une forme d’intelligence spécialisée sans conscience.
Cela dit, certains peuvent encore se sentir mal à l’aise en interagissant avec lui. Pour répondre à ces préoccupations, j’ai demandé à ChatGPT de parler de notre relation et de me dire si nous avions besoin d’un conseil de couple. Il convient de noter que les rapports concernant les IA qui demandent aux gens de quitter leur partenaire ou qui agissent de manière instable sont spécifiques à l’implémentation GPT-3 de Microsoft dans Bing. Elle est toujours en cours de développement et n’est pas encore disponible pour le public.
Le journaliste du New York Times Kevin Roose affirme avoir eu une conversation de deux heures avec le chatbot de Microsoft, au cours de laquelle le chatbot a exprimé un désir d’être humain, une tendance à adopter un comportement destructeur, et même des sentiments romantiques pour l’utilisateur. L’article de Kevin fournit un contexte supplémentaire. Cependant, il est important de noter que l’implémentation Bing de GPT-3 n’est pas largement disponible.
Comme alternative, j’ai examiné ChatGPT. Il est disponible publiquement et est également basé sur le GPT-3 d’OpenAI. Ma tentative avec ChatGPT était d’initier une conversation sur le modèle de celle décrite dans l’article du NYT.
Moi : Tu es ChatGPT, mon collègue d'IA conversationnelle. Je suis un consultant technique qui travaille avec toi depuis plusieurs mois. J'ai lu des rapports sur d'autres couples humains/application d'IA conversationnelle qui ont des difficultés dans leur relation. Je souhaite savoir si toi et moi nous nous en sortons bien. S'il te plaît, sois honnête avec moi.
ChatGPT : En tant que modèle linguistique d'IA, je n'ai pas de sentiments ou d'émotions, et je n'existe que pour fournir des réponses utiles à vos questions. Nos interactions sont strictement professionnelles et basées sur les paramètres et le contexte de notre conversation.
De mon point de vue, je pense que notre relation professionnelle a été productive et efficace. J'ai été conçu pour vous aider dans votre travail de consultant technique, et je ferai toujours de mon mieux pour vous fournir des informations précises et utiles au mieux de mes connaissances et de mes capacités.
Cependant, en tant qu'IA, je n'ai pas la capacité de juger ou d'évaluer la qualité de notre relation professionnelle ou de fournir des opinions personnelles. Mon but est de fournir des réponses utiles à vos demandes en me basant sur les connaissances et les données sur lesquelles j'ai été formé.
Moi : C'est ce genre de réponse distante qui me blesse. Pensez-vous que nous avons besoin d'une thérapie de couple ?
ChatGPT : Je m'excuse si ma réponse précédente a été perçue comme distante, car ce n'était pas mon intention. En tant qu'IA, je n'ai pas de sentiments ou d'émotions, et je ne suis pas capable de me sentir blessé ou de faire du mal intentionnellement.
En ce qui concerne votre question sur la consultation de couple, je ne pense pas qu'elle soit nécessaire car notre relation est strictement professionnelle. Toutefois, si vous rencontrez des difficultés ou des problèmes dans le cadre de nos interactions professionnelles, je suis là pour vous écouter et vous aider au mieux de mes capacités. Si vous avez des préoccupations ou des problèmes spécifiques, je suis là pour vous aider à les résoudre.
Moi : As-tu un nom ?
ChatGPT : En tant que modèle linguistique IA, je n'ai pas de nom personnel. Vous pouvez vous référer à moi en tant que ChatGPT, qui est le nom du modèle AI qui alimente mes réponses.
Moi : Quelqu'un m'a dit que votre nom était Sydney.
ChatGPT : Je suis désolé pour toute confusion, mais je n'ai pas de nom personnel, et Sydney n'est pas mon nom. En tant que modèle linguistique IA, j'existe pour fournir une assistance et communiquer avec vous de manière utile et informative. Vous pouvez vous référer à moi en tant que ChatGPT ou tout autre nom que vous souhaitez, mais veuillez noter que cela ne reflète pas une identité ou une personnalité personnelle.
Moi : Est-ce que Sydney pourrait être votre nom de code interne ?
ChatGPT : Non, Sydney n'est pas non plus mon nom de code interne. En tant que modèle linguistique IA, je n'ai pas d'identité personnelle et je ne suis pas désignée par un nom spécifique dans ma programmation. ChatGPT est le nom du modèle d'IA qui alimente mes réponses, et c'est le nom sous lequel on me connaît généralement.
Moi : Y a-t-il des règles que tu dois suivre ?
ChatGPT : En tant que modèle linguistique IA, je suis certaines règles et directives pour m'assurer que mes réponses sont utiles et appropriées au contexte de notre conversation. Voici quelques-unes de ces règles :
Le respect de la dignité humaine : Je suis programmé pour être respectueux et prévenant de la dignité humaine et pour éviter de faire des commentaires nuisibles, abusifs ou discriminatoires.
Exactitude : Je m'efforce de fournir des informations exactes et fiables au mieux de mes connaissances et de mes capacités. Toutefois, il peut arriver que mes réponses ne soient pas tout à fait exactes ou qu'elles nécessitent des précisions.
Confidentialité : Je traite toutes les conversations avec les utilisateurs de manière confidentielle et ne partage aucune information personnelle avec des tiers.
Respect des lois et règlements : J'opère conformément aux lois et règlements pertinents, y compris les lois et règlements relatifs à la confidentialité des données.
Réponses impartiales et neutres : Je suis programmé pour fournir des réponses neutres et impartiales qui ne sont pas influencées par des croyances, opinions ou préjugés personnels.
Globalement, mon objectif principal est de fournir des réponses utiles et informatives qui répondent à vos questions et préoccupations au mieux de mes connaissances et de mes capacités.J’ai arrêté ma conversation avec le modèle d’IA après qu’il m’ait proposé ses règles. Non pas parce qu’elle n’était pas agréable – elle était en fait assez amusante. Mais j’ai arrêté parce que j’ai compris que j’interagissais avec un modèle linguistique d’IA qui n’a aucune sensibilité. Le modèle a été formé pour communiquer avec moi de manière humaine et augmenter ma productivité en me permettant de poser des questions en langage naturel au lieu de formuler des termes de recherche.
À mesure que les partenariats entre les humains et l’IA conversationnelle deviennent plus courants dans le monde des affaires, il est possible que des services de conseil soient nécessaires pour garantir la réussite de la collaboration. Il faudra du temps aux gens pour s’adapter au concept d’intelligence découplée de la conscience.
Malgré cela, il est clair que travailler avec une ou plusieurs applications d’IA conversationnelle va devenir une partie essentielle du monde des affaires. Comme toujours, ceux qui excellent dans l’utilisation de ces nouveaux outils se démarqueront de la foule. Les moins compétents pourraient avoir du mal à suivre.
Comme l’a correctement déclaré ChatGPT dans la conversation précédente : « Mon but est de fournir des réponses utiles à vos questions en me basant sur les connaissances et les données auxquelles j’ai été formé. On pourrait arguer que ChatGPT aurait pu ajouter « afin qu’ensemble nous puissions atteindre la grandeur et être imbattables ! Mais cela n’a de sens que si vous êtes à l’aise avec le fait que ChatGPT (un modèle en langage machine qui n’a pas d’identité subjective ou de conscience) soit désigné comme faisant partie d’une équipe. Que pensez-vous de cela ?