Halfvet #113

KICKOFF

AI is de ontwerpwereld binnengelopen en zal niet meer weggaan. De nieuwigheid is er inmiddels af, maar het tempo waarin nieuwe AI-diensten worden gelanceerd blijft onverminderd hoog. Niemand wil de boot missen en iedereen springt op de hype train. Maar langzaamaan beginnen verhalen over de negatieve kanten van AI door te dringen tot de discussies. Een gezonde ontwikkeling natuurlijk.

Maar eerst nog even een juichverhaal. Deze week werd duidelijk hoe Figma AI gaat inzetten in de ontwerp-tool. Ze zien AI duidelijk als een companion voor de ontwerper die het werk niet zal overnemen maar makkelijker zal maken. In een presentatie tijdens Config werd meerdere malen herhaald “…we still design”:

In de talk werd ook bekend gemaakt dat Figma Diagram heeft overgenomen. Deze startup ontwikkelde oa. de Figma-AI-plugins Genius en Magician. Ik kijk al een half jaar reikhalzend uit naar de beloofde lancering van Genius, de co-pilot voor ontwerpers in Figma. Maar nu snap ik waarom het zo lang stil bleef 🙂 In de talk toonde Diagram een sneak peak van hoe ze geïntegreerd gaan worden in Figma. Dat vond ik eigenlijk nogal underwhelming (een chat-interface – really?). Hopelijk wordt het nog meer ontwikkeld in de richting van de belofte van Genius…

Hoe enthousiast ik ook ben over het idee van AI als design companion, hoe meer ik me zorgen maak over de schadelijke gevolgen van AI in het algemeen. (Voor het gemak gebruik ik steeds de term AI, maar eigenlijk gaat het om Generatieve AI, Machine Learning of specifieker: Large Language Models.)

Drie nieuwsitems van de afgelopen tijd drukten m’n neus op de feiten:

Deze journalistieke items (een tv-documentaire, een onderzoeksartikel en een datavisualisatie) benoemen een aantal ethische bezwaren tegen de huidige toepassing van AI:

Getraind op illegaal verkregen materiaal

Het is doorgaans onduidelijk waar de trainingsdata van taalmodellen uit bestaat. Maar uit onderzoek blijkt dat de modellen oa. worden getraind op illegaal verkregen content, auteursrechtelijk beschermd materiaal, privé-gegevens en nepnieuws.

De Groene: Content van kwaliteitsmedia achter de paywall komt ook veel voor in de database, maar zonder dat er ooit een euro is afgerekend voor het gebruik daarvan. Tot nu toe konden mensen bij Google een vraag intypen en dan komt bijv. een Volkskrant-stuk bovendrijven, maar bij een chatbot zie je die informatie in een nieuw jasje – zonder dat de krant wordt genoemd. Dat is zeer ongewenst en een grove schending van het auteursrecht.

Ingebakken vooroordelen

Naast illegale trainingsdata is er nog een ander probleem: niet-representatieve data. Taalmodellen worden getraind op content van internet. En dat internet is niet de meest representatieve weergave van onze wereld. Dit kan leiden tot stereotyperingen en bevooroordeelde resultaten. Want: garbage in, garbage out.

Bloomberg: An analysis of more than 5,000 images created with Stable Diffusion found that it takes racial and gender disparities to extremes — worse than those found in the real world. As AI models become more advanced, the images they create are increasingly difficult to distinguish from actual photos, making it hard to know what’s real. If these images depicting amplified stereotypes of race and gender find their way back into future models as training data, next generation text-to-image AI models could become even more biased, creating a snowball effect of compounding bias with potentially wide implications for society.

Slecht voor people & planet

Tegenlicht: Achter het recente succes van AI gaat het gebruik van nog meer grondstoffen, nog meer data, nog meer rekenkracht en nog grotere serverparken schuil. Wie uitzoomt, ziet dat AI een hongerig beest is dat gevoed moet worden met de allersnelste chips, enorme datasets en slecht betaalde arbeid. In de vorm van siliciummijnen, eindeloze rijen stroom slurpende servers of Syriërs die data labelen voor de volgende generatie generative AI.

Hallucineren

In de stappen die een taalmodel doorloopt, zit geen stap om feiten van fictie te onderscheiden. Het gaat immers om het voorspellen van de waarschijnlijkheid van een volgend woord. Het model kan dan ongestraft onzin verkopen en dit als waarheid aanbieden (‘hallucineren’). AI is dus 100% zelfverzekerd, maar niet altijd 100% accuraat.

De Groene: Als de trainingsgegevens van een chatbot niet betrouwbaar zijn, kan dat leiden tot het verspreiden van vooroordelen, propaganda en verkeerde informatie, zonder dat die informatie tot de oorspronkelijke bron te herleiden is.

Black box

Dat informatie niet tot de oorspronkelijke bron is te herleiden heeft ermee te maken dat machine learning-modellen eigenlijk black boxes zijn – niemand weet precies hoe het model tot z’n redenering komt. Dit gebrek aan transparantie is een groot probleem bij bijv. juridische beslissingen of medische diagnoses, waar uitlegbaarheid en interpretatie van cruciaal belang zijn.

Het doet me denken aan m’n rant over Web3 – een technologie waar menselijke inmenging ook zoveel mogelijk wordt geëlimineerd. Ook hier geldt: technologieën zonder sociale component (in welke vorm dan ook) zijn per definitie ongeschikt.

READING LIST

Rei Inamoto ziet dat de wereld van de Connected Age naar de Intelligent Age transformeert. Om relevant te blijven, moeten merken meebewegen:

• From Organizational Scale to Functional Speed

• From Transaction to Conversation

• From USP to POV

• From Generative AI to Creative AI

Beetje gezwollen artikel, maar er zitten zeker interessante aspecten in.

Eigenlijk zijn er teveel categorieën en is de frequentie te hoog (jaarlijks) om echt van trends te kunnen spreken, maar toch neem ik altijd even een kijkje in het Logo Trend Report. ☺️

Wat losse observaties over spatial computing en de nieuwe interactie-uitdagingen die daarbij komen kijken.

IN JE FACE

Lekker ouderwets grafisch, deze identity voor The Grand Press, ontworpen door Dixon Baxi. En het GT Cinetype font past er wonderschoon bij.

Volgens de Zuid-Koreaanse ontwerper Jun Ki Hong is typografie the essential building block van z’n werk. Gaaf om te zien hoe beeldend hij type inzet.

MUST

Sanne Wijbenga

Sanne is Halfvetter en independent product designer & creative director voor early-stage startups.

Online course waar ik veel aan heb gehad:

In 2022 heb ik de d.MBA gedaan, een mini MBA voor designers die verschillende business-concepten in 6 weken behapbaar en toepasbaar maakt. Super leerzaam en het heeft het makkelijker gemaakt om mij in de uitdagingen van mijn klanten te verplaatsen.

App die ik net heb geïnstalleerd:

Eindelijk een motion design tool die speciaal gemaakt is voor websites, apps en games. Rive is makkelijk te embedden en maakt het mogelijk om animaties op interactie en input te laten reageren. In hun showcase vind je een aantal mooie voorbeelden waaronder de character animaties van Duo Lingo.

Favoriete design quote:

"If you don't know where you are going any road will take you there.”
Ik heb altijd gedacht dat deze zin uit Alice in Wonderland kwam, maar blijkt uit dit liedje van George Harrison te komen. Prachtig toepasbaar op het creatieve proces. Fouten maken hoort erbij en zonder lelijke schetsen kom je niet bij dat perfecte eindresultaat wat je voor ogen hebt."

FRESH FONTS

JOBS

Jouw vacature promoten in Halfvet? Voeg ‘m toe.
Voor in de rij bij sollicitaties? Join de Halfvet Talent Collective.

TOOLS

• PDF.ai laat je chatten met je documenten. Upload een pdf en de chatbot wordt daarop getraind.

• The Index verzamelt the best design studios, designers, type foundries, and other creatives worldwide.

• Grabdrop zijn hele fijne mockups.

• Synthetic Users doet gebruikersonderzoek op basis van AI ipv met mensen.

• Bentogrids verzamelt Bento design.

• Maneken is een drag & drop mockup maker. Ziet er veelbelovend uit (join the waitlist).

👋

Tot over twee weken!

Jeroen.

Wat vond je van deze Halfvet?