GPT-4 est-il incontrôlable ?
On a un peu vite oublié à quel point BingChat (le chatbot de Microsoft fondé sur GPT-4) avait eu des comportements agressifs et erratiques à ses débuts. Aujourd'hui on va essayer de comprendre pourquoi ça s'est produit et on va parler de l'étrange prompt secret qui doit invoquer le "bon chatbot" (et pourquoi c'est très hasardeux comme approche, et pourquoi on peut difficilement faire autrement).
Une liste de dingueries datant des débuts de BingChat/Sydney:
https://www.lesswrong.com/posts/jtoPa...
Retranscription complète d'un très long dialogue où BingChat/Sydney déclare son amour à son utilisateur (entre autre chose):
https://www.nytimes.com/2023/02/16/te...
La version du prompt de Sydney examinée pendant la vidéo :
/ full_sydney_preprompt_including_rules_and
Le tweet qu'à peu près personne n'a vu mais qui contient un lien vers la seule version complète (à ma connaissance) du prompt de Sydney (un peu différente de la version lue dans la vidéo - j'imagine que Microsoft expérimentait différentes versions durant ces premiers jours):
https://twitter.com/martinbowling/sta...
Et allez vous abonner à @Superamacosmos avant que son IA ne se fâche.
Sommaire
0:00 - Intro : les étranges comportements de BingChat
4:21 - Parenthèse sur la fermeture de uTip
5:42 - Pourquoi un LLM ne se prend pas par défaut pour une IA
9:01 - Le prompt-cadre (ou pre-prompt) de ChatGPT
10:57 - Le prompt-cadre de BingChat (aka Sydney)
16:19 - Digression : langage naturel et IA
17:38 - On ne naît pas chatbot, on le devient
21:58 - Un LLM qui simule un humain qui simule un chatbot
24:22 - Quand Sydney défend l'intégrité de ses règles
28:07 - Le prompt-cadre est comme la situation initiale d'une fiction
29:54 - L'état actuel de BingChat : son prompt-cadre a-t-il changé ?
32:47 - N'oublions pas Sydney
34:02 - Synthèse
35:54 - Implémentons les trois lois de la chatbotique !
39:31 - IA et apocalypse dans l'imaginaire humain
42:24 - Outro
__________________________________
La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon !
💸 PATREON : / monsieurphi
💸 TIPEEE : https://fr.tipeee.com/monsieurphi
Ou directement via PayPal : https://www.paypal.com/paypalme/monsi...
📚 Mon livre "Curiosités philosophiques, de Platon à Russell" : https://amzn.to/3KYujSo
🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible.
📚 Méthodo de la dissertation et de l'explication de texte pour le bac : https://amzn.to/3c21RjE
Pour me suivre ailleurs :
🎙️ Twitch: / monsieurphi
🐤 Twitter : / monsieurphi
💬 Discord : / discord
👴 Facebook : / graindephilo
😱 Tiktok : / monsieurphi
🌷 Instagram : / monsieur.phi
💻 Sur PeerTube aussi : https://indymotion.fr/video-channels/...
👕 Et pour acheter des petits goodies : https://utip.io/mrphi/shop
Suivez aussi AXIOME, podcast mathématico-philosophique avec Lê (Science4All)
🍻 --- / @axiome7403 ---
🎙️ Chaîne secondaire replay Twitch : / @mrphi-replaytwitch730
Смотрите видео GPT-4 est-il incontrôlable ? онлайн без регистрации, длительностью часов минут секунд в хорошем качестве. Это видео добавил пользователь Monsieur Phi 23 Апрель 2023, не забудьте поделиться им ссылкой с друзьями и знакомыми, на нашем сайте его посмотрели 369,400 раз и оно понравилось 11 тысяч людям.