שמעתם שהמודל החדש של  openai שהם שיחררו לפני שבועיים בערך היה קצת יותר מדי חנפן? לא הפסיק להתחנף ולהחמיא על כל שאלה בכל שיחה.

סם אלטמן הסביר מה קרה 

הם נתנו יותר מדי חשיבות לפידבק שאנחנו מקבלים מהמשתמשים

האינדיקציה שיש בסוף כל תשובה thumbs up/thumbs down

ומה מתברר? כולנו אוהבים שמסכימים איתנו (לא מאוד מפתיע, תודו)

וכך יצא מודל מסוג המעריץ המוגזם

מה אפשר ללמוד מזה?

1. תהליכי הבדיקות למוצרים מבוססי מודלים הם הרבה יותר מורכבים ממה שאנחנו מכירים/רגילים, ואף אחד עוד לא יודע לעשות את זה ממש טובה. (תקראו בפוסט, הוא מפרט קצת מה הם עושים, זה המון!)
2. תמיד אפשר לקחת את הפידבקים מהמשתמשים רחוק מדי (מי שעובד עם סקרים/NPS יודע שהם כלים בעייתיים מאוד)
3. ההשלכות על עולמות המוצר העתידיים די מפחידות. מוצרים שיתחנפו אלינו בצורה מאוד מתוחכמת (תחשבו משפיענית/מוכרנית אינסטגרם, מבוססת מודל, עם מסרים מאוד מאוד מותאמים אישית…)
4. הפתרון – להפיל את האחריות עלינו כיוזרים, שנהיה ביקורתיים, ש״ננהל״ את הפידבק ונגיד למודל שיפסיק להתחנף, מתאים אולי למשתמשים המוקדמים/חכמים, אבל לא יתאים עם התרחבות השימוש לסוגים אחרים של משתמשים.