המודל הטוב ביותר של AI לכל משימה, עם אוטומטי

אוטומטי הוא נתב מודלים שקורא כל משימה ושולח אותה למודל שמאזן בצורה הטובה ביותר בין איכות, מהירות ועלות. עבור כל משימה, אוטומטי בוחר מודל מתוך מודלים של כמה ספקי AI, בהתבסס על ההערכות של Notion ועל המודלים שסביבת העבודה שלכם מאפשרת. הוא משתמש במודלים מהירים יותר לשאלות ועריכות מהירות, ובמודלים בעלי יכולת גבוהה יותר לעבודה מורכבת.

אוטומטי מופעל כברירת מחדל בבורר המודלים, בצ'אט של סוכן Notion ובהגדרות של סוכן בהתאמה אישית. כשמשתמשים באוטומטי, Notion בוחרת את המודל הטוב ביותר לכל משימה. כך זה עובד:

• אוטומטי מתאים את המודל למשימה. שאלות מהירות, עריכות וסיכומים עוברים למודלים מהירים ויעילים. משימות מורכבות יותר, כגון מחקר מעמיק, כתיבת קוד או בניית סוכנים בהתאמה אישית, יכולות לעבור למודלים בעלי יכולת גבוהה יותר.

• אוטומטי יכול להתאים את עצמו במהלך המשימה. במשימה עם כמה שלבים, אוטומטי יכול לעבור למודל מתקדם יותר בשלבים מורכבים ולחזור למודל פשוט יותר כשהעבודה קלה יותר.

• אוטומטי מתעדכן במודלים חדשים. Notion מעריכה מודלים חדשים לפי איכות, מהירות, עלות ואמינות לפני שהיא הופכת אותם לזמינים. המודלים שזמינים דרך אוטומטי עשויים להשתנות. מידע נוסף על האופן שבו Notion מעריכה מודלים במשימות נפוצות של עבודת ידע →

• אוטומטי פועל לפי הגדרות סביבת העבודה שלכם. הוא משתמש רק במודלים שסביבת העבודה שלכם מאפשרת ושעומדים בדרישות שלה, כולל בקרות מודלים והגבלות על ספקים. אם אחד מבעלי סביבת העבודה מגביל את המודלים שאוטומטי יכול להשתמש בהם, אוטומטי עובר למודל הבא בעל העלות הנמוכה ביותר שסביבת העבודה מאפשרת.

• אוטומטי זקוק למספיק מודלים מופעלים כדי לעבוד היטב. אם אחד מבעלי סביבת העבודה מכבה יותר מדי מודלים, אוטומטי יהפוך לפחות יעיל. בעת שמירת שינוי שמגביל את האיכות הכוללת של אוטומטי, בעלי סביבת העבודה יראו אזהרה.

אפשר לבחור מודל בעצמכם בכל שלב. כדאי לעשות זאת כאשר:

• אתם רוצים להשתמש באותו מודל לאורך כל הצ'אט, במקום לתת לאוטומטי לבחור מודל או להחליף מודלים בהתאם למשימה.

• אתם מעדיפים מודל מסוים לסוג עבודה מסוים.

• אוטומטי לא סיפק את התוצאה שהייתם צריכים, ואתם רוצים לנסות מודל אחר.

כדי לבחור מודל

בצ'אט של סוכן Notion:

1. בוחרים באפשרות אוטומטי כדי לפתוח את בורר המודלים.

2. מרחפים מעל מודל כדי להשוות בין מהירות, יכולת ועלות.

3. בוחרים מודל.

לאחר הבחירה, סוכן Notion ישתמש במודל הזה בצ'אט שלכם. כדי לחזור לאוטומטי, פותחים את בורר המודלים ובוחרים באפשרות אוטומטי.

בהגדרות של סוכן בהתאמה אישית:

1. פותחים את ההגדרות של הסוכן.

2. עוברים למקטע המודלים ופותחים את בורר המודלים.

3. בוחרים מודל.

4. בוחרים באפשרות שמירה.

לאחר הבחירה, הסוכן בהתאמה אישית ישתמש במודל הזה עד שתשנו אותו.

בעלי סביבת העבודה קובעים אילו מודלים החברים יכולים לבחור. מודלים של ספקים שסביבת העבודה שלכם השביתה לא יופיעו. מודלים שסביבת העבודה שלכם הגבילה יופיעו תחת מודלים מוגבלים, ולא תהיה אפשרות לבחור בהם. מידע נוסף על ניהול מודלי AI וצריכת הקרדיטים של החברים →

בתוכנית לעסקים ובתוכנית Enterprise,‏ סוכן Notion משתמש בקרדיטים סטנדרטיים כשאתם משתמשים באוטומטי, ובקרדיטים מסוג נבחר כשאתם בוחרים מודל בעצמכם. אם נגמרים לכם הקרדיטים מאחד הסוגים, בעלי סביבת העבודה יכולים לאפשר לכם להמשיך להשתמש בתכונות AI באמצעות קרדיטים של Notion. מידע נוסף על ניהול הקרדיטים של AI שלכם →

ברוב המשימות היומיומיות ב-Notion, אוטומטי יכול לעזור לקרדיטים שלכם להספיק לעד פי 10 יותר מאשר בחירה עצמאית במודל מוביל. אוטומטי מתאים את המודל למשימה ומשתמש בפחות קרדיטים בכל משימה, כך שתוכלו להספיק יותר עם הקרדיטים שלכם. בבדיקות שלנו:

• העלות הממוצעת של הרצה באמצעות אוטומטי הייתה נמוכה ב-87% מזו של Opus 5.5.

• ליטוש מסמך או אימייל צרך בערך שמינית מכמות הקרדיטים שנדרשה ליצירת מסמך אסטרטגיה מפורט או תוכנית רבעונית.

הטבלה משווה את צריכת הקרדיטים המשוערת במשימות נפוצות באמצעות אוטומטי ו-Opus 5.5. הצריכה בפועל עשויה להשתנות.

צריכת הקרדיטים משתנה בהתאם לתרחיש. לדוגמה, בקשה מסוכן Notion ללטש אימייל בשרשור ארוך עם מידע מורכב עשויה לצרוך יותר קרדיטים. גם במשימות שבדרך כלל צורכות יותר קרדיטים, אוטומטי הפיק תוצאות דומות לאלו של מודלים מתקדמים.

הערכנו את אוטומטי על ידי הרצה חוזרת של אלפי משימות נפוצות מהעולם האמיתי בסביבת Notion מדומה, ולאחר מכן השווינו את הביצועים של מודלים שונים. כך זה עבד:

1. השווינו בין שני מודלים בכל פעם. הצגנו לקבוצת מודלים מובילים את התוצרים של שני מודלים שונים, זה לצד זה.

2. קבוצת השופטים בחרה בתוצאה הטובה יותר בכל פעם, תוך שימוש במדריך ניקוד מוגדר.

3. הענקנו לכל מודל ציון Elo בהתבסס על כל העימותים הישירים הללו.

ציון Elo מדרג מיומנות לפי הביצועים של שחקן מול אחרים במשחקים רבים של אחד על אחד, בדומה לדירוג שחקני שחמט. זו דרך פשוטה ואמינה לדרג מודלים לפי הביצועים שלהם במשימות בעולם האמיתי.

הרצה של כל עימות באופן ידני היא יקרה, לכן אימנו שופט AI שיתאים היטב לדירוגים הללו, מה שמאפשר לנו להריץ השוואות רבות בבת אחת. הניקוד שלנו מגיע משיטה זו.