• Anno 1800
  • DevBlog

DevBlog – Wie laufen Technical Tests ab?

  • 13.07.2021

Hey Anno-Community,

Da der Technical Test (kurz: TT) für den „Dächer der Stadt“-DLC gerade läuft, denken wir, dass es ein guter Zeitpunkt ist, um über Technical Tests für Anno im Allgemeinen zu sprechen: Warum machen wir sie? Wie fortgeschritten ist die Version für diese Playtests? Wie arbeiten wir mit dem Feedback, das wir erhalten?

Lest weiter, um genau das herauszufinden.

Was genau ist ein Technical Test

Was wir einen „Technical Test“ nennen, ist ein größerer Playtest, bei dem Leute eine frühe Version eines kommenden Updates und/oder DLCs spielen können. Diese Tests sind größer als Fokustests oder Diary Studies, die jeweils mit deutlich kleineren Gruppen von Spielern stattfinden. Für die Diary Studies werden die Spieler anhand von bestehenden Profilen handverlesen (ihr könnt euch hier anmelden, um potentiell Teil der Liste zu werden) und müssen außerdem täglich Umfragen mit Fragen des Teams ausfüllen. Mit diesen versuchen wir, Feedback zu ganz bestimmten Punkten zu bekommen.

Im Vergleich dazu können die Spieler während eines Technical Tests dank eines Forums untereinander über die neuen Inhalte diskutieren und sich gegenseitig helfen. In der Regel kann sich jeder zu diesen Playtests anmelden (obwohl wir die Teilnehmerzahl meist begrenzen) und das Ziel ist es, ein breiteres Feedback von der Community zu erhalten.

Unsere Vorbereitungen für den Technical Test

An den Vorbereitungen für einen Technical Test sind mehrere Teams innerhalb von Ubisoft beteiligt. Zuerst planen wir intern einen TT auf Basis unserer Produktions- und Releasepläne und setzen uns dann mit diesen anderen Teams in Verbindung.

Dazu gehören zum Beispiel die Ubisoft-Teams, die sich um den Anmeldeprozess und die Registrierungswebsite kümmern, die Einladungs- und Bestätigungs-E-Mails und natürlich die Weiterleitung der endgültigen Teilnehmerliste, damit ihr Zugang zur Testversion und zu den Foren erhaltet.

Apropos Version: Für uns bedeutet das, dass wir eine stabile Version für den Test vorbereiten, diese prüfen und bekannte Probleme dokumentieren müssen. Mehr dazu weiter unten.

Schließlich gibt es noch die Kommunikation, die vorbereitet werden muss, sei es in der Anno Union oder in den speziellen Foren.
All das bedeutet, dass wir eine Reihe von Meetings abhalten, bevor der Technical Test endlich starten kann.

Wie weit fortgeschritten ist die Version (wie wir es nennen: der Build) für einen solchen Technical Test ?

Generell streben wir eine Version an, die weitestgehend „feature complete“ ist, d.h. die neuen Inhalte sind bereits komplett spielbar, die Systeme funktionieren und auch die meisten Art-Assets sind fertig. Dafür müssen alle Teams hart arbeiten, um eine solche stabile Version (sie kann Bugs und einige technische Probleme haben, aber keine größeren Probleme) mehrere Wochen vor der eigentlichen öffentlichen Veröffentlichung der Inhalte fertig zu stellen.

Während die neuen Mechaniken im Grunde drin sind, fehlen noch viele andere Dinge oder sind zumindest unvollständig: Die Version des Technical Tests enthält in der Regel noch keine Lokalisierungen, d.h. alle neuen Inhalte sind nur auf Englisch verfügbar. Auch Sound und Musik können teilweise noch fehlen, ebenso wie Beschreibungen und Tooltips für neue Gebäude und Mechaniken. Art-Assets können teilweise noch kleinere Fehler oder Unregelmäßigkeiten haben („unpolished“), und auch die Balance ist meist noch nicht final.

Auf der technischen Seite ist die Version noch nicht vollständig optimiert, und es gibt jede Menge Bugs (bekannte, die noch behoben werden, und neue, die wir selbst noch nicht gefunden haben), darunter auch potentielle Blocker, die euch z.B. daran hindern könnten, eine Questreihe zu beenden.

Wie nutzen wir das Feedback aus einem solchen Playtest?

Wie am Anfang des Artikels erklärt, nutzen wir ein Forum, um Feedback und Fehlerberichte zu sammeln. Vor dem Start des Technical Tests stellen wir in der Regel ein Team aus Mitgliedern von QA, Game Design, Community und Support zusammen, das das Forum im Auge behält. QA und Support prüfen und reproduzieren gemeldete Bugs (für die wir in der Regel Savegames, Screenshots etc. anfordern) und übertragen sie in unser internes System (wir verwenden dafür, wie viele andere auch, JIRA) zur weiteren Untersuchung.

Das Feedback zu bestimmten Features, der Balance und mehr wird von Game Design und Community gesammelt und anschließend im Design-Team diskutiert.
Normalerweise schauen auch Mitglieder aus anderen Teams von Zeit zu Zeit in die Foren, auch wenn sie keinen „Forumsdienst“ haben – sei es aus reiner Neugier oder weil sie sehen wollen, ob es Feedback zu einem bestimmten Feature gibt, an dem sie gearbeitet haben (z.B. Art, die wissen wollen, was unsere Spieler von den neuen Wolkenkratzern halten).

Nach teaminternen Diskussionen (z.B. Game Design, das prüft, welche Auswirkungen eine bestimmte Balance-Änderung hätte) folgen Diskussionen mit anderen Teams, die ebenfalls etwas ändern müssen, z.B. UI oder Programmierung. Die meisten Verbesserungswünsche oder Features, die wir als Feedback erhalten, sind Themen, die die Arbeit von verschiedenen Teams erfordern.

Anschließend muss unser Produktionsteam den Aufwand für Änderungen und Verbesserungen, die die Teams noch vornehmen wollen, abschätzen und dabei die verbleibende Zeit bis zur Veröffentlichung des DLCs im Auge behalten. Das kann knifflig sein, da der Playtest spät genug stattfinden muss, dass der Großteil der Inhalte bereits fertig ist, aber früh genug, damit wir bis zur Veröffentlichung noch Zeit haben, auf Feedback und Fehlerberichte zu reagieren.

Habt ihr bereits an vergangenen Playtests für Anno 1800 teilgenommen? Oder habt ihr noch Fragen, die im Blog nicht beantwortet wurden? Lasst es uns in den Kommentaren wissen!

Kommentare

Schreibe einen Kommentar

8 Kommentare
  1. I IppoSenshu

    Ich habe schon an mehreren Tests teilgenommen und finde es immer wieder erstaunlich, wie viel Arbeit im Hintergrund da reingesteckt wird, das wir als Teilnehmer nicht immer alles mitbekommen.
    Mir persönlich hat aber jeder Test Spaß gemacht und ich finde den Weg gut, die Community so mit ein zubeziehen. Auf weitere erfolgreiche Playtests! 😉

  2. A Azrael5111

    Auch ich hatte das große Glück an ein paar Tests teilnehmen zu dürfen. 🙂 Sie haben immer viel Spaß gemacht, allerdings darf man diese eben nicht mit dem „normalen“ spielen in seiner Freizeit und zur Entspannung vergleichen. Wenn ich für mich „privat“ spiele, dann lehne ich mich auch mal zurück, bei einer Tagebuchstudie ist es schon etwas mehr „Arbeit“, da achtet man schon auf das noch so kleinste Detail. Das Schönste ist, wie Lemminck schon anmerkte, man nach dem Release auch sieht das das Feedback der Tester*Innen auch in das Spiel eingeflossen ist.

  3. L Lemminck

    Ich hatte das große Glück an ein paar der Tests teilnehmen zu dürfen, dafür nochmals vielen Dank! 🙂

    Was ich jetzt, wenn ihr schon fragt, sagen kann ohne gegen die NDAs zu verstoßen, ist, dass diese Tests allesamt sehr viel Spaß gemacht haben. Gerade wenn man sich in den jew. Testforen mit anderen, auch Teilen des Devs Teams, austauschen kann und nach Release dann auch sieht, ob und falls ja, wie entsprechendes Feedback umgesetzt wurde.(alles geht nie, dafür ist es zu viel, schon klar 😉 Trotzdem merkt man das auf die Tester*Innen gehört wird, soweit möglich, goodjob!)

    Ich hoffe sehr, dass dieses Prinzip für die nächsten Annoteile beibehalten wird und auch in anderen DevTeams(nicht nur) bei Ubisoft Schule macht, das FarCry6 Team kann sich von eurer Öffenlichkeitsarbeit jedenfalls noch eine dicke Scheibe, ach was, einen ganzen Braten! abschneiden. Klar, bei einem Shooter muss/kann man nicht so viel testen, aber man könnte wenigsten hin und wieder mal ins Forum schauen und dort Fragen beantworten, anstatt lediglich hin und wieder kurze Twitterwerbeclips zu veröffentlichen. Oder wenigsten das neue , mittlerweile seit Monaten bekannte, neue Releasedatum reinschreiben…naja genug zu FarCry…

    Wann gibt´s eine Beta zu diesem Siedler von dem hin und wieder Mal die Rede ist? :-p

  4. A Aljenna

    Wollte mich anmelden fuer den Anno Technical fuer die Dächer der Stadt, bekomme aber da nur angezeigt, das ich schon angemeldet wäre, ich denke es kommt noch vom damaligen Beta Test von Anno, bei jedem Vortest für den ich mich versuche anzumelden, bekomme ich diese Mitteilung.
    Ich denke das ich deswegen auch nie eine Antwort bekomme.

    • S Scania-Lady

      Das denke ich nicht. Ich bekomme die gleiche Antwort (jedes Mal), und habe dennoch schon an mehreren Tests teilgenommen. Für diesen habe ich auch keine Einladung bekommen. Es wurde mal kommuniziert, dass die Einladungen nach dem Zufallsprinzip raus gehen. Zufällig haben wir also keine Einladung bekommen.

    •   Ubi-Thorlof

      Hmmm, das sollte eigentlich nicht der Fall sein.
      Hast du zufällig mal geschaut, ob das unabhängig vom Browser auftritt?

      • S Scania-Lady

        Ach! Das ist interessant. Ich benutze immer Chrome für die Standardanwendungen, weil der inzwischen eigentlich der Quasi-Standard für alles ist. Und bekomme da tatsächlich die Mitteilung, ich sei bereits registriert.
        Aufgrund deiner Anregung habe ich jetzt mal Firefox benutzt. Und schau an, da sieht die Mitteilung etwas anders aus. Hier heißt es nun, dass ich registriert sei (natürlich habe ja schon an Tests teilgenommen), und dass ich nun für den Test angemeldet sei.

        Irgendwie hat euer Webseitenteam Probleme mit den unterschiedlichen Browsern und Sprachen, will mir scheinen ^^.

        Nun gut, beim nächsten Mal probier ich alle Browser durch. 😉

        •   Ubi-Thorlof

          Freut mich, dass das geklappt hat. Eventuell ist die alte Registrierung noch im Browsercache in Chrome hinterlegt. Gegebenenfalls hilft es, den einmal zu löschen. Wenn du das eh regelmäßig tust, fällt mir so spontan leider auch keine andere Lösung ein.
          Aber gut, fürs nächste Mal dann 😉

You may also be interested in