Bill is nu goed in Skat!
Bill en Mike oefenen nu al een tijdje Skat, en hebben eindelijk een niveau bereikt waarop ze competitief kunnen spelen!
In werkelijkheid gebeurde het volgende: ik had behoefte aan een korte pauze van mijn gebruikelijke projecten. Ik was nooit erg tevreden geweest over het spelniveau van de computertegenstanders in Skat, dus besloot ik grondig onderzoek te doen naar hoe computerspelers van Skat eigenlijk werken — de modernste en algemeen aanvaarde strategieën, ideeën en algoritmen die er zijn. Een deel ervan ging mijn pet te boven, maar uiteindelijk begreep ik de materie goed genoeg om het te proberen.
Het resultaat? Bill en Mike begonnen me bij elke hand volledig weg te spelen. Maar goed, zelf ben ik niet zo goed in Skat, dus had ik een betere maatstaf nodig: een A/B-test. De afgelopen week speelde de helft van jullie met de oude bots en de andere helft met de nieuwe bots. De resultaten zijn binnen en ze zijn veelbelovend.
Een paar statistieken!
Nadat de A/B-test een week had gelopen, werd overduidelijk dat de nieuwe bots het op elke maatstaf beter deden dan de oude. Ze winnen meer handen en behalen meer punten, verdedigen beter en maken veel meer van hun aangekondigde contracten af, waardoor ze meer lijsten winnen. De conclusie is eenvoudig: De nieuwe bots zijn net zo goed als, en zelfs iets beter dan, de gemiddelde mens die ons Skat-spel speelt.
Scores per hand
Voorheen stonden de bots gemiddeld in de min. Bij een gemiddelde hand kon je verwachten dat de bots óf niets scoorden, óf contracten aankondigden en verloren, waarbij de straffen zwaarder wogen dan de schamele punten die ze wisten te behalen. Hun gemiddelde score per hand was negatief, in tegenstelling tot de behoorlijk goede score die mensen doorgaans behaalden — waarschijnlijk een combinatie van het beter bieden van contracten door mensen en het feit dat de bots zich enigszins slecht verdedigden tegen zwakke menselijke contracten.
De nieuwe bots zijn daarentegen veel competenter. Omdat ze heel voorzichtig zijn met het bieden op contracten waarvan ze niet denken dat ze die kunnen winnen, verdienen de bots nu vaker punten dan ze verliezen. Daardoor behalen ze uitstekende gemiddelde scores per hand. De menselijke spelers krijgen nu echter bots tegenover zich die zich veel beter verdedigen, waardoor riskante contracten een stuk moeilijker uit te voeren zijn en de score per hand lager uitvalt. Nog steeds in de plus, hoor!
Geboden en gewonnen contracten
Zoals waarschijnlijk al duidelijk is uit de grafiek met handscores, zijn de robots nu goed genoeg om te weten hoe hoog ze moeten bieden en hoe ze een contract daadwerkelijk moeten volbrengen nadat ze het hebben gewonnen.
Als vuistregel wil je minstens twee derde van de contracten die je aankondigt winnen, simpelweg omdat de straf voor verliezen twee keer zo groot is als de beloning voor winnen. Het is veilig om te zeggen dat de oude bots dit ambitieuze doel niet haalden.
De oude computerspelers boden over het algemeen te hoog en slaagden er daardoor niet in veel van hun contracten te volbrengen. Niet de meeste, welteverstaan, maar genoeg om onder de magische 66% te blijven die ze nodig hadden om uit de min te blijven.
De nieuwe bots gaan een stuk doelbewuster te werk. Ze weten welke biedingen ze waarschijnlijk kunnen waarmaken en bieden niet hoger dan dat. Bill is ingesteld om meer risico's te nemen dan Mike, maar de biedingen eindigen meestal al lang voordat ze ook maar in de buurt van de rode lijn komen.
Daardoor volbrengen de nieuwe bots hun contracten bijna altijd wanneer ze er een aankondigen. Met goed teamwork en een beetje geluk zijn ze zeker niet onmogelijk te verslaan — het is alleen niet meer zo komisch eenvoudig als vroeger.
Gewonnen spellen
En ten slotte de hele reden voor deze reis van mij: proberen de ongelooflijk scheve winstverhoudingen te herstellen. De oude bots waren eerlijk gezegd niet zo goed. De mensen die tegen hen speelden, wonnen een overweldigende meerderheid van de spellen: 77%. Dat is gewoon absurd, veel te scheef om zelfs binnen onze algemene filosofie van een 'informele site voor een paar ontspannen spelletjes' te rechtvaardigen.
Na de herziening kan ik trots zeggen dat de computertegenstanders ongeveer even vaak winnen als de menselijke spelers — en zelfs iets vaker — waarbij de mensen slechts 30% van alle lijstoverwinningen weten binnen te slepen. Daarmee zijn Bill en Mike met gemak de meest competente computerspelers op onze hele site! De vorige recordhouder was Cribbage, wiens computertegenstander op een goede dag 51% van de spellen wint.
De nieuwe bots kunnen nu misschien wat te sterk en te uitdagend aanvoelen. We waren niet bepaald van plan om een computerspeler van professioneel Skat-niveau te maken. Ik weet zeker dat een echt goede Skatliefhebber de nieuwe bots met gemak zou kunnen aftroeven, maar ze zijn ongetwijfeld behoorlijk uitdagend. Ze vormen echter een geweldig startpunt om ze wat zwakker te maken, totdat we iets krijgen dat dichter bij een gelijke verdeling van 33% voor iedereen ligt. Dat is iets voor een toekomstige A/B-testsessie om te bepalen — en een toekomstig project voor mij!
De nieuwe bots zijn live!
Vanaf het verschijnen van dit bericht zijn de nieuwe bots voor iedereen beschikbaar om tegen te spelen.
De nieuwe bots staan standaard aan via de optie "Moeilijke computertegenstanders", maar voor casual spelers zoals ik, die wat oefening nodig hebben voordat ze het tegen hen opnemen, kan die optie in het optiemenu worden uitgeschakeld. Daarmee schakel je over naar eenvoudigere tegenstanders die hetzelfde systeem gebruiken als de nieuwe bots, maar zo zijn afgesteld dat ze samen slechts 50% van de lijsten tegen de mens zouden moeten winnen. Ik blijf hun prestaties echter in de gaten houden en als ze nog steeds te uitdagend blijken, maak ik ze verder wat zwakker totdat de mensen de helft van alle spellen winnen. Ik heb niet specifiek een A/B-test uitgevoerd om op dat getal van 50% uit te komen; ik liet de eenvoudige bots gewoon tegen de moeilijke bots spelen (die als menselijke speler fungeerden) en draaide aan de knoppen totdat de moeilijke bots ongeveer het juiste aantal keer wonnen van de eenvoudige bots.
Door de nieuwe strategie is het Skat-algoritme van Bill en Mike misschien wel het ingewikkeldste en meest uitgebreide van alle botspelers op onze site, maar als dit goed uitpakt, laat ik me misschien overtuigen om het aan te passen voor meer van onze spellen. We zullen zien!
Ik hoop dat jullie plezier beleven aan de nieuwe bots en dat ze voor iedereen een uitdagendere en leukere ervaring opleveren!
Als je de nieuwe bots wilt uitproberen, ga dan gewoon naar Skat here on Cardgames.io. Als je opmerkingen of feedback over de nieuwe bots hebt, neem dan gerust contact met me op via support@cardgames.io of een van onze socialemediakanalen.
Tot de volgende keer!