האינטרנט מתרומם כשמשתמש 4Chan משתמש בסימולטור קול AI כדי לזייף עמוק את קולה של אמה ווטסון, גורם לה לקרוא את האוטוביוגרפיה של היטלר

אנשי הצוות לשעבר של גוגל ופאלנטיר השיקו יחד את הסטארט-אפ Elevenlabs, שמטרתו ליצור זיופים עמוקים של אודיו באיכות גבוהה של ידוענים באמצעות כלי שיבוט הקול שלהם בינה מלאכותית. אבל השקת הבטא שלהם חזרה במהרה, כאשר רבים התעללו בקולותיהם של ידוענים, כולל אמה ווטסון, באמצעות כלי שיבוט הקולות בינה מלאכותית.

מעריצים רבים נותרו זועמים מהשימוש הלא אתי והבלתי מוסרי בכלי ה-AI לאחר שכמה טרולים התעללו בקולות הסלבריטאים האהובים עליהם כדי להעביר הערות שערורייתיות. אבל הסטארט-אפ הבטיח לכולם שהם הולכים לשנות את המודל שלו כדי למנוע בעיות נוספות.

קרא גם: 'בגלל שמלאו לי 18, זה היה חוקי': אמה ווטסון נותרה בטראומה על ידי פפראצי לאחר שניסו ללחוץ על תמונות על החצאית שלה על ידי שכיבה על המדרכה כאשר לכוכב הארי פוטר מלאו 18

מעריצים זועמים לאחר שמשתמש 4Chan משתמש לרעה בקולה של אמה ווטסון באמצעות כלי בינה מלאכותית

הצגת כלי השיבוט הקולי בינה מלאכותית מ-Elevenlabs העלתה את האינטרנט באש לאחר שמספר רב של טרולים ניצלו את השימוש בכלי החינמי הזה. למרות שרבים השתמשו בתוכנה כדי ליצור תוכן בריא, חלק מהאינטרנט השתמש בכלי לרעה כדי לגרום לסלבריטאים להפליט השמצות גזעניות והערות מקוממות, ושימוש לרעה ב של אמה ווטסון הקול היה הקש האחרון.

לאחרונה. לוח האם דיווח על שימוש לרעה קיצוני בתוכנת הבינה המלאכותית כדי ליצור אודיו מזויף עמוק פוגעני. אבל הקש ששבר את גב הגמל היה משתמש 4Chan, שיצר קליפ של הארי פוטר הכוכבת אמה ווטסון קוראת המאבק שלי , האוטוביוגרפיה של הדיקטטור הנאצי אדולף היטלר.

המעריצים זעמו מהשימוש הלא אתי הזה בתוכנה על אמה ווטסון וסלבריטאים מפורסמים אחרים כולל ג'ו רוגן, רובין וויליאמס וכו'. Elevenlabs, שהעמידה את הטכנולוגיה לזמינה לציבור, התייחסה לבעיה ההולכת וגוברת ונשבעה להילחם נגד שימוש לרעה בכלי שיבוט הקול שלהם.

קרא גם: במאי 'אסיר אזקבאן' ביקש מהארי פוטר לכתוב מאמר על דמותם - אמה ווטסון כתבה 16 עמודים, לדניאל רדקליף היה סיכום של עמוד אחד, רופרט גרינט לא כתב אחד

Elevenlabs נשבע להימנע משימוש לרעה נוסף בכלי הבינה המלאכותית

הסטארט-אפ היה המום מהתגובה החיובית אליהם גם בהתחלה, מכיוון שרבים השתמשו בכלי שיבוט קולי AI ליצירה בריאה. אבל החברה התמודדה עד מהרה עם בעיה לאחר שהטרולים החלו לנצל את התוכנה למטרות מרושעות. Elevenlabs הבטיחו לאינטרנט שהם בוחנים לעומק את העניין ומוצאים את הפתרונות האפשריים.

למרות שיוצרי Elevenlabs הודו שהם יכולים להתחקות אחר המשתמשים שמנצלים לרעה את כוחו של כלי הבינה המלאכותית, הם מחפשים אמצעי בטיחות נוספים כדי למנוע בעיה זו. היוצרים שיתפו רעיונות שונים להתמודדות עם העניין, הכוללים הכנסת אימות ידני לכל שיבוט ואימות זיהוי מלא של המשתמש באמצעות תשלום או כל שיטה אחרת.

קרא גם: 'הם צריכים לתת לה את הדעות שלה': הלנה בונהם קרטר היא לא מעריצה של אמה ווטסון ודניאל רדקליף המפגינים נגד ג'יי קיי. רולינג כדי להגן על בסיס המעריצים שלהם

למרות שבדיקת הבטא של ה-Start-אפ התחילה מעורבת, עם מעריצים רבים זועמים על השימוש הלא אתי בקולות מפורסמים באמצעות כלי הבינה המלאכותית, במיוחד אמה ווטסון. אבל אנשים גם הכירו בסטארט-אפ שלא צחצח את המצב ונקט בצעדים אקטיביים כדי להתמודד עם טרולי האינטרנט האלה.

מָקוֹר: סְגָן