קרה לכם שצילמתם תמונה בסמארטפון שלכם, ולאחר שהסתכלתם עליה בגלריה גיליתם שפרטים חשובים "נשרפו"? בקרוב, נראה שגוגל עומדת לעזור לכם להציל ולשפר תמונות בעזרת הפורמט המיוחד שהיא יצרה. הדאטה הקריטי גוגל הציגה לראשונה את הפורמט Ultra HDR עם ההשקה של Android 14 וה-Pixel 8, שהיה המכשיר הראשון שגם מסוגל לצלם תמונות בפורמט הזה. Ultra HDR […]

כמה פעמים מצאתם את עצמכם כותבים פרומפט ארוך ומפורט כדי לקבל את התוצאות הטובות ביותר מ-ChatGPT ובסוף זרקתם "בבקשה" או אפילו "תודה", כי אמא לימדה אתכם להיות מנומסים, או כי אתם חוששים שביום שבו הרובוטים ישתלטו על העולם הם אולי יזכרו שאתם הייתם נחמדים אליהם? אם אתם כמונו, כנראה שזה קרה לכם יותר מפעם אחת […]

מהו השלב הבא של סוכני AI, האם הסייבר הפך לבועה ואילו מגמות בפינטק דורשות את תשומת הלב שלכם? את התשובות לכל השאלות האלה (ורבות נוספות) תוכלו לקבל בכנס Tech1, שמגיע לאילת בפעם הראשונה עם הרצאות, פאנלים ושולחנות עגולים בהשתתפות דוברים מישראל ומחו"ל, משקיעים ויזמים. מטרת האירוע היא ליצור מפגש לא פורמלי ובלתי אמצעי בין יזמים, […]

מבין כל הדברים שהבטחתם לעצמכם שתעשו אחרי החג (לא חשוב שמות), יש לכם משימה אחת חשובה ואף כיפית: לשמור לעצמכם ולקולגות מקום בכנס Geektime Code. כנס הפיתוח הגדול של גיקטיים בנוי השנה מהרצאות של הנשים והאנשים הכי מעניינים בתעשיית הטק הישראלית, שייתנו טייקים מקוריים על כלים ומגמות חדשים בפיתוח, יעבירו סשנים של לייב קודינג וגם […]

הקרן הישראלית TBD VC נחשפת היום (ב') עם סכום מרשים, 35 מיליון דולר, שאותו היא מתכוונת להשקיע בסטארטאפים ישראליים. הקרן החדשה הוקמה על ידי צמד משקיעים, דיוויד ציטרון ואלן בוך, המגיעים עם היסטוריה של השקעות בסטארטאפים ישראליים ובחברות ענק. לא משקיעים ב-AI, בערך הקרן החדשה מיועדת להובלת השקעות פרה-סיד והצטרפות לסיבובי סיד של סטארטאפים ישראליים. […]

בינה מלאכותית הופכת לחלק בלתי נפרד מחיינו – מהבנקים ועד בתי החולים, מהרשתות החברתיות ועד למכוניות האוטונומיות. לצד המהפכה המרשימה של בינה מלאכותית קיימים סיכונים מהותיים שאסור להתעלם מהם, במיוחד כשמדובר במערכות AI קריטיות. בתחום הרפואה, למשל, AI כבר מאבחנת מחלות בדיוק גבוה מזה של רופאים אנושיים. אבל מה קורה כשה-AI טועה, או כאשר מערכת רפואית מסתמכת על אלגוריתם פגום? ההשלכות עלולות להיות הרסניות. טעויות כאלה אינן רק באגים – הן פרצות שמחכות להתגלות, ותוקפים מתוחכמים יודעים לנצל אותן לתועלתם. ב-2016 הצליחו חוקרים להטעות רכב אוטונומי על ידי שינוי מינורי בתמרור עצור. החוקרים הדביקו מדבקות על התמרור, כך שהוא שונה קלות, והאלגוריתם, במקום לזהות את התמרור כהלכה, פירש אותו אחרת לחלוטין – טעות שעלולה הייתה להסתיים באסון. וזה לא מקרה בודד. ככל שהבינה המלאכותית חודרת עמוק יותר לתחומים קריטיים, כך גובר הצורך לבדוק אותה באופן אקטיבי – לפני שהתוקפים ינצלו את החולשות שלה. מה הפתרון? צוות אדום – קבוצה שתפקידה לחשוב כמו התוקפים, לחשוף את הפרצות ולחזק את ה-AI – לפני שיהיה מאוחר מדי. מהו "צוות אדום" ולמה הוא הכרחי? במקור, המונח "צוות אדום" (Red Team) מגיע מהצבא – קבוצה שמדמה יריב תוקפת את המערכות של עצמה, וחושפת חולשות לפני שהאויב עושה זאת. בעולם הסייבר, השיטה אומצה בהצלחה – ועכשיו, הגיע הזמן ליישם אותה גם על AI. הצוות הקדום יכול לאתר מראש נקודות תורפה – חיפוש אחר עיוורון מערכתי, הטיות בנתונים, וחולשות טכניות שמקילות על מניפולציה. כמו כן, הוא יכול לדמות מתקפות – ניסוי מכוון להטעות את האלגוריתם ולבדוק איך הוא מגיב לקלט שגוי או מניפולטיבי. כך ניתן לשפר את  עמידות המערכת – חיזוק המודל, הפחתת רגישות להונאות, והכנתו להתמודד עם תרחישים בלתי צפויים. דוגמאות מהעולם האמיתי AI בעולם הפיננסים: פרצות שמחכות למניפולציה – מערכות לזיהוי הונאות פועלות לפי דפוסי התנהגות – אבל מה קורה כשהאקרים מבינים איך הן עובדות? הם יכולים ליצור פעילות שנראית לגיטימית, לעקוף את האלגוריתם, ולבצע הונאות בלי שהמערכת תשים לב. צוות אדום יחשוף את החולשות האלה לפני שהן ינוצלו. גיוס עובדים בעזרת AI: כשהאלגוריתם מפלה בלי כוונה – תאגידים משתמשים בבינה מלאכותית כדי לסנן מועמדים – אבל מה אם האלגוריתם נותן עדיפות לאוכלוסיות מסוימות על בסיס מידע מוטה? צוות אדום מנתח את ההטיות ודואג לתקן אותן, כך שההחלטות יהיו מבוססות על כישורים, לא על סטטיסטיקה מוטעית. מתקפות אדברסריות: הטעיה מכוונת של אלגוריתמים – התקפות אדברסריות מנצלות חולשות בתפיסה של AI ומשטות במודלים החכמים. לדוגמה, שינוי קטן בפיקסלים של תמונה יכול לגרום לאלגוריתם לזהות חתול כמשאית. צוות אדום חושף את הבעיות האלה ומוודא שהמערכת עמידה בפני מניפולציות. השלב הבא: איך ליישם צוות אדום ל-AI? לחשוף את נקודות התורפה – למפות סיכונים, לזהות אזורים רגישים, ולנתח היכן האלגוריתם יכול לטעות. לבצע מתקפות מדומות – לבדוק איך ה-AI מגיב לנתונים מסולפים, לשינויים לא צפויים ולניסיונות תקיפה מתוחכמים. לחזק את המערכת – להתאים את המודלים לתרחישים קיצוניים ולוודא שה-AI לומד להבחין בין אמת להונאה. AI חכמה היא AI עמידה בינה מלאכותית היא הכוח הטכנולוגי החזק ביותר של זמננו – אבל אם לא נבדוק אותה בצורה הנכונה, היא תוכל להפוך גם לאיום. השאלה אינה האם יש חולשות, אלא מי ימצא אותן קודם – הצוות האדום, או התוקפים? האם הארגון שלכם כבר בוחן את ה-AI שלו כמו שצריך? אם לא, הגיע הזמן להתחיל. הכותב הוא מהנדס פריסייל בבינת תקשורת מחשבים.

חברת Shure מוכרת היטב למי שעוסקים בתחום ההפקה והמוסיקה. האוזניות (והמיקרופונים) שלה חביבים על אנשי מקצוע ופעמים רבות נתפסת כמי שמתחרה בחברה שמוכרת לנו מעט יותר בתחום הצרכני, Audio Technica, אם כי בחתימת האודיו במוצרים של השתיים קיימים הבדלים. לאחרונה השיקה Shure בישראל מגוון מוצרים חדשים, בהם אוזניות ה-AONIC 50 Gen2, את אלו לקחתי לבדיקה […]

מאז שהרובוטים נכנסו לחיינו מרחפת השאלה התמידית האם הם יחליפו את בני האדם ביום מן הימים, או שהם יעשו יחד איתנו פעולות שונות, שיסייעו וישפרו את הסיכויים להשיג את המטרות כמעט בכל תחום בחיינו. בעולם המתפתח בקצב מהיר התחום הנקרא HRI, אינטראקציה טבעית בין מערכות רובוטיות למשתמשים אנושיים. ישראל נמצאת בחזית הטכנולוגיה הזאת. בשבוע שעבר נערך באוניברסיטת רייכמן כנס של מאגד (קונסורציום) HRI – Human Robot Interaction, במימון ויוזמת רשות החדשנות ובהובלת אלביט – חטיבת תקשוב וסייבר , שהציגו דוגמאות לרובוטים המיישמים את האינטראקציה בין בני אדם למכונה, ללא צורך בהפעלה מרחוק. הדגש בפיתוח ותכנות הרובוטים האלו הוא בפיתוח טכנולוגיה, המאפשרת התאמה, הבנת נורמות התנהגותיות, הקניית יכולות שיח ותקשורת טבעית ולמידה של סביבה בין האדם למכונה. כל אלה בונים את יכולות הרובוט לבצע שיתוף פעולה בביצוע משימה (מתן הסברים, אדפטיביות) וקבלת החלטות. הנה כמה מהפיתוחים שהוצגו בכנס: חברת רובוטיכאן הציגה בעולם הרובוטיקה הצבאית והאזרחית שילוב של הרחפן הייחודי "תרנגול" על גבי כלב רובוטי. הפיתוח החדשני מאפשר יכולות תמרון והפעלה אוטונומית משולבת, כאשר הרחפן מסוגל להמריא, לנוע באזורים מאתגרים ולהרחיב את טווח הפעולה המבצעי, בין היתר למשימות סיור ואבטחה. חברת Lifeward הציגה גירסה חדשנית למערכת שלד רובוטית לבישה, המבוססת על שלד רובוטי ומאפשרת למשותקים בפלג הגוף התחתון לקום על רגליהם, ללכת, לעלות ולרדת במדרגות וממדרכות. המערכת הודגמה בעזרת פצוע צה"ל. חברת Intuition robotics הציגה את הפתרון הרובוטי ElliQ, המסייע לאוכלוסיית הקשישים/בני הגיל השלישי הנמצאים ברמת תפקוד טובה אך חיים בגפם. הרובוט לומד עצמאית ומתאים עצמו לקשישים, מאפשר מעקב אחר פעילויות כגון פיזותרפיה, ביקור רופא, נטילת תרופות וכיו"ב. בכנס הוצגו פיתוחים,  כגון רובוט שיכול להפוך ל"עובד מצטיין" במשרד על ידי השתלבות יחד עם כל העובדים ולא חלילה לאיים עליהם. כמו כן הוצגו רובוטים שמבצעים פעולות שהם חלק מתהליכים כגון אריזה אוטונומית, זיהוי המרחב הפנוי לתנועה, תוך התחשבות בתנועת האנשים סביבם. "מאגד HRI הוא דוגמא טובה ליתרון בפיתוח משותף של טכנולוגיה מורכבת העושה שימוש בחוזקות הייחודיות של כל שותף (נווט, הבנת סביבה, יכולת לימוד וחיקוי, תקשורת בשפה טבעית וכו') באופן שבו השלם גדול מסכום חלקיו" אמר ד"ר אביב זאבי, סמנכ"ל רשות החדשנות ומנהל חטיבת תשתיות חדשנות. הוא ציין, שבמאגד פותחו יכולות אשר בחלקן תהיינה נגישות לתעשייה הישראלית ותאפשרנה שימוש במכלולי HRI לטובת שדרוג מערכות רובוטיות קיימות. יוסי כהן, CTO חטיבת תקשוב וסייבר באלביט מערכות, אמר, כי "בשנים האחרונות קיים מעבר מרובוטים המופעלים בשלט רחוק על ידי גורם אנושי הסמוך לרובוט, להפעלה מרוחקת של צביר רובוטים Tele-Operation ולמערכות אוטונומיות ורובוטים הפועלים עצמאית לצד משתמשים אנושיים במשימות משותפות". תמונה קבוצתית מהפרזנטציות של הכנס (עם כלבי הרובוט). צילום: אייל רפאלוב