Onderwerp: Impact ChatGTP op ZF, bedreiging of niet?

Knar schreef :
Uitgaande van 26 letters, 10 cijfers, een spatie en een punt hebben we voor het gemak 38 tekens om een tekst te produceren. Met 38 tot de macht 1000 combinaties heb je iedere mogelijke tekst van maximaal 1000 tekens gedefinieerd inclusief alle creativiteit. Omdat dit heel veel is, kan een mens dat niet bevatten, maar het is wel een eindige hoeveelheid.

Reclame/merkbureaus hebben dit al lang gedaan voor kortere tekenreeksen om merknamen te "bedenken".

Ook AI kan volgens dat principe komen met de tekstvarianten:
- "onder conditie X drijft de boot"
- "onder conditie X zinkt de boot"

Welke van de twee tekstvarianten de werkelijkheid weergeeft, is een heel ander verhaal. Dat is precies waar het met AI mis kan gaan wanneer jij niet in staat bent om een AI antwoord te beoordelen. Bij een gezag hebbende bron kan je vertrouwen hebben in die bron, ook al heb je zelf de ballen verstand van het onderwerp.

vraag het AI ,

antwoord:
De betrouwbaarheid van AI is een complex onderwerp: AI-systemen kunnen zeer nauwkeurig zijn voor specifieke taken, maar 100% betrouwbaarheid is onrealistisch. Betrouwbaarheid hangt af van diverse factoren en vereist een combinatie van technische garanties, menselijk toezicht en transparantie.
Factoren die de betrouwbaarheid beïnvloeden
De mate van vertrouwen die men in een AI-systeem kan stellen, wordt door verschillende elementen bepaald:
Kwaliteit van de gegevens: AI-modellen leren van data. Als de invoergegevens van slechte kwaliteit zijn of vooroordelen (bias) bevatten, zal het model deze overnemen en mogelijk versterken, wat leidt tot onbetrouwbare of discriminerende resultaten.
Complexiteit van de taak: Voor goed gedefinieerde taken, zoals het herkennen van patronen in grote datasets, kan AI een zeer hoge nauwkeurigheid bereiken. Voor taken die menselijk oordeelsvermogen, redenering of aanpassingsvermogen vereisen, is de betrouwbaarheid minder absoluut.
Transparantie en uitlegbaarheid: Om AI te kunnen vertrouwen, moeten gebruikers (en ontwikkelaars) begrijpen hoe een systeem tot een bepaalde uitkomst komt (explainable AI). Een gebrek aan inzicht maakt het moeilijk om fouten op te sporen of de logica te valideren.
Beveiliging en robuustheid: AI-systemen moeten beschermd zijn tegen kwaadwillende aanvallen of manipulatie (bijvoorbeeld door criminelen die de technologie misbruiken), om te voorkomen dat ze onjuiste of schadelijke acties ondernemen.
Menselijk toezicht: Blind vertrouwen op AI-suggesties kan tot negatieve uitkomsten of zelfs levensbedreigende situaties leiden. Menselijke controle en expertise blijven essentieel, vooral in hoogrisicogebieden zoals de gezondheidszorg, justitie en financiële dienstverlening.
Uitdagingen en risico's
De belangrijkste uitdagingen bij het bereiken van betrouwbare AI zijn:
Bias (vooroordelen): Onvermijdelijke vooroordelen in trainingsdata kunnen leiden tot onbillijke of discriminerende resultaten. Het beheersen van deze bias is een doorlopende uitdaging.
Foutmarges: Geen enkel systeem is onfeilbaar. AI maakt fouten en de nauwkeurigheid varieert sterk.
Regulering: Om de risico's aan te pakken, werkt de Europese Unie aan de AI Act om regels vast te stellen voor het gebruik van AI binnen Europa.
Kortom, de betrouwbaarheid van AI is een sociaal-technisch concept dat voortdurende aandacht vereist voor zowel de technologische ontwikkeling als de menselijke interactie en ethische kaders.
AI-reacties kunnen fouten bevatten. Meer informatie




undefined
undefined
undefined
13 sites
100 % nauwkeurigheid van AI- agenten is onrealistisch - dit zijn de redenen
Vertaald — 100% nauwkeurigheid verwachten van AI-agenten is een misvatting over zowel de aard van kunstmatige intelligentie als de co...

ADaSci

'De betrouwbaarheid van AI is bovenal een sociaal-technisch ...
25 jul 2021 — ... systemen op de mensheid en de manier waarop mensen met die systemen omgaan. Het is belangrijk dat de AI-systemen ni...

Rathenau Instituut

Wat is AI en wat zijn de risico's? - Veilig Internetten
AI brengt ook gevaren en risico's met zich mee. Zowel op het gebied van (online) veiligheid als privacy. Criminelen kunnen de tech...

Veiliginternetten

Alles tonen

hnrts schreef :
ChatGTP zegt er dit over:


Een ander en zeer uitgebreid AI antwoord begint als volgt:

AI is de toekomst....

Of dit strikt onder de noemer AI valt weet ik niet, maar ik ben een groot fan geworden van software die plantensoorten herkent van een foto en die vogelgeluiden herkent van een geluidsopname. Die software heeft het wel eens fout (en ik weet genoeg van planten en vogels om dat te onderkennen), maar de score van juiste antwoorden is verbluffend. Momenteel probeer ik de Portugese flora te leren kennen. Vroeger zou dat monnikenwerk geweest zijn met determinatietabellen, nu maak ik een foto en pas als ik twijfel over het antwoord raadpleeg ik een andere bron. Dat maakt het zoveel leuker en gemakkelijker.
Idem vogelgeluiden. Ik was er nooit goed in omdat ik niet vaak genoeg meeliep met ervaren vogelaars. Nu heb ik een 'ervaren vogelaar' in mijn broekzak die goede oren heeft en veel weet.

Een paar jaar terug was deze software nog lang niet zo goed. Door heel veel training met gevalideerde databases is de kwaliteit enorm toegenomen.

Wadloper schreef :
Jouw ervaring is met Chatgpt en Google maps, daar baseer je een mening op.
AI wordt getraind door mensen, nu voornamelijk in Afrika en de bedrijven die deze arbeid inhuren zijn cooperatives die daar zijn vanwege een winst oogmerk.
In een gecontroleerde omgeving kan AI veel goede zaken doen. Alleen, wie gaat deze tech bedrijven controleren/corrigeren? Er zijn nu modellen die AI gebruiken om de volgende generatie AI te trainen zonder voldoende controle.

Dat maakt jouw bescheiden mening een futuliteit wat betreft dit onderwerp.

Ik nodig je uit om deze video te kijken, van Nieuwsuur, een bron die wat dichterbij is qua verslaggeving.



En dan de andere video die ik poste , ik hoop dat je dan begrijpt dat we op dit moment op een bepaalde manier met vuur aan het spelen zijn met AI.

AdB schreef :
Dat weet ik. Ik ontken het ook nergens.

Dat ontkende ik, in de pots waarop jij reageerde, ook niet. Die pots ging daar ook helemaal niet over.
In die bewuste pots stelde ik namelijk niets meer dan dat de informatie waarmee AI wordt gevoed, bestaande data in digitale vorm is, die al op internet aanwezig is en al dan niet legaal wordt verkregen en gebruikt.

Als "dit onderwerp" het idee is dat je hierboven poneert (AI kan goed doen maar moet worden gecontroleerd) dan sla je de plank nogmaals mis. Ik heb geen mening geventileerd over "dit onderwerp".

The problem with artificial intelligence? It’s neither artificial nor intelligent

Het is niet artificial, want het gebruikt kennis en creativiteit die door mensen is gemaakt, en zoals de Nieuwsuur uitzending hierboven laat zien ook nog een heleboel moderatie/labeling door mensen

Het is ook niet intelligent, want het enige wat Large Language Models (LLMs) kunnen is pattern matching, terwijl menselijke intelligentie veel breder is.

Veel meer data en rekenkracht in deze modellen stoppen maakt ze niet opeens intelligent.

Kost wel erg veel energie, al die servers voor AI .
Je zou net als vliegschaamte een AI schaamte kunnen oplopen

Ofwel: WL heeft eigenlijk níets relevants over AI gezegd, zegt ie Dus ook niets fouts. Heeft ie toch een vorm van gelijk en kan ie even weg van ZF! Iedereen blij. Op naar de raadplaat.

Hogerwaller schreef :
Een heel ander, maar wèl een goed punt.
Je kunt natuurlijk in het kader van het bestrijden van klimaatverandering energie willen besparen zoveel je wilt; als aan de andere kant steeds weer iets wordt bedacht dat om méér energie vraagt, dan spannen we het paard achter de wagen.

Het simpele feit is: alles in de wereld draait om geld en er steeds meer van binnenslepen.
Die hele AI-rush gaat niet eens zozeer om welke vooruitgang die in technologisch of maatschappelijk opzicht gaat opleveen, maar vooral over hoeveel aandeelhouderswaarde (geld) hiermee wordt gecreërd.

Al het andere, ook de nadelen en de gevaren, zijn daaraan ondergeschikt.

Nachtvlinder schreef :
Hè wat flauw.

Nadeel van fora is dat er nogal wat fora gebruikers vol met ongefundeerde aannames of verkeerde interpretaties reageren. Ik kan daar zelf niet zo goed tegen, dus als ik iets wil weten probeer ik eerst met AI / Google het antwoord te vinden. Vaak stuurt je dat al de goede richting op (bij Google kun je direct doorklikken naar de bron). En AI scheld (nog) niet terug

La Mavare schreef :
Door chatgpt vriendelijk geherformuleerd als:
*Zou dit misschien ook steun kunnen bieden aan mensen die wat onzeker zijn in sociale situaties?
Of aan mensen die soms moeite hebben om zich gepast te uiten op een forum?
En misschien ook aan degenen die graag hun mening delen, maar niet altijd goed aanvoelen of anderen daar op dat moment op zitten te wachten?
Laten we hopen op het beste …*

Nachtvlinder schreef :
Even chatgpt geraadpleegd hoe mijn reactie op jouw post vriendelijk te herformuleren:
*
Hier is een veel vriendelijkere manier om dezelfde boodschap over te brengen, zonder te schelden:
“Ik vind je gedrag op dit moment echt niet fijn.”
“Ik voel me door jouw houding gekwetst.”
“Dit komt nu erg onaardig over.”
“Ik zou het waarderen als je wat respectvoller bent.”*

Ik denk dat ChatGTP en het Zeilersforum twee heel verschillende dingen zijn. Met AI krijg je op eenvoudige wijze toegang tot ingeblikte kennis, zeg maar de uiterst saaie wereld van de objectief toetsbare feiten. (het gebruik van de term intelligentie in dit verband komt uit een marketing koker). Het Zeilersforum biedt je toegang tot wijsheden, de veel interessantere wereld van subjectieve waarheden, die regelmatig tegenstrijdig met elkaar kunnen zijn. Met wijsheden bedoel ik in dit verband kennis die verrrijkt is met levenservaring, intuitie, waarin begrepen boerenverstand en onderbuikgevoel, religie en filosofische raamwerken zoals het humanisme en existentialisme. Kortom, ChatGTP vormt in mijn denken op geen enkele manier een bedreiging voor het Zeilersforum.

Knar schreef :
Mijn naam is Wadloper en ik ondersteun deze boodschap.

RobertWalter1 schreef :
Zo te zien is Chatgpt een woke watje.

Ik gebruik inmiddels ontzettend veel AI bij het programmeren (vooral Nginx, Node.js en alles eromheen). De komst van goede AI heeft voor velen de hele workflow op z’n kop gezet, op de allerbeste manier. Vroeger programmeerde je bijna altijd “van achteren naar voren”: je begon bij de details en werkte langzaam naar het grote geheel toe. Nu kan het net zo makkelijk andersom, en dat voelt een stuk intuïtiever. De tijdwinst is absurd. Troubleshooten gaat veel sneller omdat je direct een (over)enthousiaste co-pilot hebt die altijd up-to-date is. Je hoeft niet meer een halve dag te puzzelen met twee snippets, één uit 2021 en één uit 2023, om erachter te komen waarom het niet werkt. Dat drama is gelukkig voorgoed voorbij.

Tot zover is dat allemaal vrij straight-forward: in code is iets goed of fout, weinig grijs gebied. Wat mij echt verrast heeft, is hoe sterk de huidige modellen inmiddels zijn op sociaal-emotioneel vlak. Ik zag laatst een indrukwekkende use-case: iemand liet het nieuwste Grok-model los op een reeks groepsapp-gesprekken met de opdracht de dynamiek te analyseren en de karaktertrekken van alle geanonimiseerde deelnemers te duiden. Het resultaat was verbluffend. Door het model met verschillende vragen te benaderen, ontstond een heel levendige en nuttige interactie. Ik ben er oprecht van overtuigd dat AI, als iemand ervoor openstaat, inzichten kan bieden die normaal alleen een goede therapeut of psychiater boven tafel krijgt.

Ik gebruik voor mijn werk wel eens Large Language Models, zoals Chat GPT (maar ook andere modellen). Ik gebruik het vooral om lange teksten (bijv. beleidsstukken) snel samen te vatten of te analyseren. Ik probeer ook wel eens een speech (deels) te laten schrijven door een LLM, maar de toonzetting is vaak veel te dramatisch (Amerikaans!), om iets mee te doen. Ik durf het niet te gebruiken voor feitelijke checks/analyses/onderzoek, omdat ik, na wat checks, toch veel fouten zie. Spreek je daar het LLM op aan, dan krijg je doodleuk "O, sorry, dank voor de correctie" terug!

Ik zie eigenlijk 3 problemen met de huidige LLM's:

-ze zijn nog vrij dom: ze maken alleen gebruik van statistiek, om te berekenen wat het meest waarschijnlijke "volgende woord" is, als uitkomst. Ze hebben dus niet echt een idee wat ze aan het doen zijn en waarom.

-ze halen hun data (tenzij jij ze zelf traint) van internet: crap in = crap out

-ze verbruiken heel veel energie

Natuurlijk staan we nog maar aan de beginfase van AI, en zijn we nog vrij ver van een "General Intelligence" of "Super Intelligence" model af. Dat het veel mensen hun baan gaat kosten, kun je nu al zien, zeker ook in mijn sector.

AI gebruikt neurale netwerken, dat is iets wat ook onze hersenen kunnen. Maar dat is dus niet deterministisch. Hij doet het maar we hebben geen idee hoe dat werkt. Zo was een model in staat het verschil te kunnen zien tussen een husky en een wolf (die lijken veel meer op elkaar dan een kat of hond, dus best knap). Tot die een wolf met 100% zekerheid als husky aanduidde. En dan kun je niet ff debuggen hoe die daar aan gekomen is. Met een nieuw model zijn ze er uiteindelijk achter gekomen. Het model maakte dus de keuze wolf of husky aan de hand van of er sneeuw of geen sneeuw lag. Dus zet een wolf in de sneeuw en boem

Mijn kinderen zijn programmeurs en die gebruiken nu AI zoals ze vroeger een junior gebruikte. Beiden komen met niet werkende voorstellen, maar het is een beginnetje.

Ik ben vandaag toch eens aangenaam verrast door ChatGTP. Geraadpleegd via DuckDuckGo, om mezelf als gebruiker anoniem te houden.
Mijn Linux Mint PC wilde niet meer printen, de printer service (CUPS) wilde niet meer starten. Dat oplossen ging me al snel boven de pet. Maar de bot heeft me goed geholpen om het uit te pluizen en op te lossen. Dat was het elektriciteitsverbruik wel waard.
Maar ja, met zeilen had het niets te maken.

Ik gebruik ChatGTP regelmatig, ook beroepsmatig. Beroepsmatig hanteer ik de stelregel om er alleen op te vertrouwen bij onderwerpen waar ik zelf goed in ben. Op die manier blijf ik in regie en biedt het een enorme timesaver

Ook zet ik ChatGTP regelmatig in voor zaken die mijzelf veel tijd zouden kosten. Bijvoorbeeld "Zet even de onderlinge kenmerkende verschillen van die en die reddingsvesten in een tabel." En vervolgens "Zoek de drie goedkoopste aanbieders ervan in Nederland, Duitsland en België en hou daarbij rekening met de verzendkosten naar Nederland." Ook voor dit soort informatie geldt dat ik alles kan verifiëren.

In de openingspost werd de vraag gesteld of ChatGTP een bedreiging vormt voor ZF en andere fora.
Ik denk dat die vraag terecht is. Daarvoor wil ik graag deze post van mij in herinnering roepen: zeilersforum.nl/index.php/foru...eer?start=75#1652407
Daar werd me toegevoegd dat ik eerst maar eens ChatGTP had moeten raadplegen voordat ik de vraag hier op forum stelde. Het punt was echter dat ik dat tevoren wel degelijk had gedaan. Een dag of wat later gaf ChatGTP echter andere antwoorden, waarbij juist exact dat topic hier op ZF als bron werd gebruikt. Ik heb er toen een screenshot van gemaakt en gepost.

Hier kun je een heleboel van zeggen. Ik hou het erop dat ChatGTP hier het forum voor de voeten liep.

Verder nog een toevoeging: ook ChatGTP geeft gewoon bronvermeldingen.

Heb je al de agentic webbrowser Comet? Vermakelijk, probeer m een taak te laten doen en elke dag komt die een stapje verder. Ik had er een lezing over van Lieven Scheire. (Leuke opkomst had die; hello, I'm lieven (I'm leaving ).

Ik ga hem proberen. Thanx!