Införandet av generativ AI sker i en rasande takt, men potentiella hot från tekniken kommer att kräva att organisationer sätter upp skyddsvallar för att skydda känsliga uppgifter och kundernas integritet - och för att undvika att stöta sig med tillsynsmyndigheter.
Då många företag fortsätter att testa och använda verktyg för generativ artificiell intelligens riskerar flera av dem att drabbas av AI-fel, skadliga attacker och problem med tillsynsmyndigheter – för att inte tala om den potentiella exponeringen av känsliga uppgifter.
– Dina data sparas av OpenAI. De har rätt att använda vad du än lägger in i chattfönstret. Du kan fortfarande använda Chat GPT för att skriva generiskt innehåll, men du bör inte klistra in konfidentiell information i det fönstret. Ungefär hälften av de tillfrågade i undersökningen från Harris Poll, som beställdes av systemintegratören Insight Enterprises, uppgav att de använder AI för att säkerställa produktkvalitet och för att hantera säkerhetsrisker.
Mot bakgrund av de oavsiktliga konsekvenserna av AI har åtta av tio organisationer antingen infört policyer och strategier för AI eller överväger att göra det, enligt de båda undersökningarna.för andra kvartalet – Det är en potentiell risk eftersom människor kan ställa en fråga och anta att uppgifterna är korrekta och sedan fatta ett viktigt affärsbeslut med felaktiga uppgifter, säger Matthew Jackson.Avivah Litan på Gartner förklarar att de problem som organisationer ställs inför när de använder genAI kan delas in i tre huvudkategorier:
För att motverka den här typen av hot krävs en strategi för säkerhet och riskhantering som bygger på flera lager, säger Litan. Det finns flera olika sätt för organisationer att minska risken för oönskade eller illegitima inmatningar eller utmatningar. Slutligen måste organisationer vara medvetna om prompt injection-attacker, som är en skadlig inmatning som är utformad för att lura en LLM att ändra sitt önskade beteende. Det kan leda till stulna data eller att kunder luras av de generativa AI-systemen.
– Det var också vår första policy. Men vi satte snabbt upp en privat klient med Microsofts OpenAI för Azure-teknik. Så vi skapade en säker miljö där vi kunde ansluta till en del av våra privata företagsdata. På så sätt kunde vi tillåta människor att använda det.
– Så en av medarbetarna på ett av våra lager insåg att man kan be generativ AI att skriva ett skript för att automatisera vissa av dessa systemuppdateringar, säger Jackson. Nu fokuserar Insight på att prioritera kritiska användningsområden som kan kräva mer anpassning. Det kan handla om att använda prompt engineering för att utbilda LLM på ett annat sätt eller att koppla in mer varierande eller komplicerade backend-datakällor.
Philippines Latest News, Philippines Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Trotjänaren bekräftar – lämnar MFF: ”Tufft, så klart”Därför flyttar Lasse Nielsen inför höstens guldstrid.
Read more »
– därför hördes SIF-stjärnan mest► ”Laget behövde energi” ► Hyllar landsmannen ► Vägrar snacka om superettan
Read more »
Därför skickas inga Jas-plan – Kristerssons svarUnder sitt Sverigebesök uppmanade Volodomyr Zelenskyj Sverige att skicka Jas-39 Gripen till Ukraina. Nu svarar Ulf Kristersson på uppmaningen. – Vi har också en balansgång att gå emellan vad vi kan avvara till dem och vad vi måste ha själva, säger Ulf Kristersson i TV4:s ”Nyhetsmorgon”.
Read more »