Neo Geo AES NEC Repair: Faulty Crystal, Reset Circuit Issues and TTL Modifications

Cette Neo Geo AES équipée d’une carte mère NEC présentait plusieurs symptômes particulièrement trompeurs. À première vue, l’écran affichait une image totalement corrompue, laissant supposer un problème de mémoire vidéo, de bus de données ou encore de circuit graphique.

Après plusieurs heures de diagnostic et d’investigation, la réalité s’est révélée bien plus complexe. La console souffrait simultanément de plusieurs pannes : un oscillateur principal défaillant, un circuit RESET instable ainsi que diverses modifications apportées à la logique TTL de la carte mère au cours de sa vie.

Comme souvent sur les systèmes anciens, les symptômes observés n’étaient finalement que la conséquence visible d’un ensemble de défauts plus profonds.

Dans cet article, nous allons suivre pas à pas le processus d’analyse, les mesures effectuées à l’oscilloscope ainsi que les différentes réparations qui ont permis de redonner vie à cette console emblématique de SNK.

--------------------------------------------------------------------------------------------------

This Neo Geo AES equipped with a NEC motherboard presented several particularly misleading symptoms. At first glance, the display showed a completely corrupted image, suggesting a video memory, data bus, or graphics subsystem failure.

After several hours of troubleshooting and investigation, the root cause turned out to be far more complex. The console was suffering from multiple faults at the same time: a defective master oscillator, an unstable RESET circuit, and several modifications made to the board's TTL logic during its lifetime.

As is often the case with vintage hardware, the visible symptoms were merely the consequence of a combination of deeper underlying issues.

In this article, we will walk through the diagnostic process step by step, including oscilloscope measurements and repair procedures that ultimately brought this iconic SNK console back to life

On va commencer par le quartz.

Quand une Neo Geo affiche ce genre d’image complètement corrompue, l’un des premiers suspects est souvent l’horloge principale. Sans une fréquence stable, le processeur, la vidéo et les différents circuits de la carte ne travaillent plus correctement ensemble.

Avant d’aller plus loin, vérifions donc si notre quartz  fait correctement son travail.

-------------------------------------------------------------------------------------------

Let’s start with the crystal oscillator.

When a Neo Geo displays this kind of heavily corrupted image, one of the first suspects is often the master clock. Without a stable frequency, the CPU, video circuitry, and the rest of the system can no longer operate correctly together.

Before digging any deeper, let’s check whether our  crystal is doing its job properly

Je dégaine donc l’oscilloscope et, à première vue, tout semble parfait.

Nous avons une belle sinusoïde, bien propre, bien stable…

Sauf qu’elle oscille à 38 MHz.

Petit problème : sur une Neo Geo, on vise plutôt les 24,167829 MHz.

Autant dire que notre quartz a décidé de prendre quelques libertés avec les spécifications de SNK.

Si vous souhaitez comprendre pourquoi cette fréquence est si particulière et comment elle est utilisée par la Neo Geo, notre ami Philippe a réalisé une excellente vidéo sur le sujet.

Ne faites simplement pas trop attention aux commentaires d’un certain individu qui semble nourrir une étrange obsession pour les drosophiles et les expériences douteuses…

-------------------------------------------------------------------------------------

Time to bring out the oscilloscope.

At first glance, everything looks great.

We have a nice, clean and stable waveform…

Except it’s running at 38 MHz.

The slight problem is that a Neo Geo is supposed to run at 24.167829 MHz.

So our crystal has clearly decided to ignore SNK’s original specifications.

If you’d like to understand why this frequency is so important and how it is used throughout the Neo Geo hardware, our friend Philippe made an excellent video covering the subject.

Just don’t pay too much attention to the comments from a certain individual who seems to have a rather unhealthy fascination with fruit flies and questionable experiments..

Du coup, j’ai la Yoga flemme.

Plutôt que de perdre du temps à investiguer davantage cette carte fille défectueuse, je décide carrément de la remplacer par une autre et de mettre la fautive de côté pour une réparation ultérieure.

Et là, miracle.

Nous retrouvons un signal qui ressemble enfin à quelque chose de cohérent.

L’oscilloscope affiche désormais une fréquence très proche des 24,167829 MHz attendus.

Bon, il manque quelques chiffres après la virgule, mais ne lui en voulez pas trop : mon oscillo n’a pas la prétention d’afficher une précision à six décimales. Il arrondit un peu les angles, mais pour notre diagnostic, c’est largement suffisant.

Notre première panne est donc identifiée.

--------------------------------------------------------------------------------

At this point, I decide to take the easy route.

Rather than spending more time investigating the faulty daughterboard, I simply swap it for another one and put the defective board aside for future repair.

And just like that, things start looking much better.

We finally get a clock signal that makes sense.

The oscilloscope now shows a frequency very close to the expected 24.167829 MHz.

Sure, it’s missing a few digits after the decimal point, but let’s not be too hard on it — my oscilloscope wasn’t designed to display six decimal places of precision. It’s close enough for the purpose of this diagnosis.

Our first fault has now been identified

Malheureusement, malgré notre nouvelle horloge toute fraîche, toujours aucune image à l’écran.

Premier réflexe : vérifier les signaux RESET et HALT.

Et là, mauvaise surprise : les deux sont collés à la masse.

Je vous en avais déjà parlé dans un précédent article. Lors du démarrage de la console, les signaux RESET et HALT sont volontairement maintenus à 0V pendant un court instant afin que tous les circuits de la machine puissent se synchroniser correctement.

Une fois cette phase terminée, les deux lignes doivent remonter à 5V et la console commence alors son démarrage.

Si elles restent bloquées à 0V, il ne se passe absolument rien.

Et quand je dis rien…

C’est vraiment rien.

Le processeur ne démarre pas, la logique ne démarre pas, la vidéo ne démarre pas. 

Avec le temps, j’ai fini par mettre au point une procédure de diagnostic spécifique pour ce type de panne. Elle me permet de remonter méthodiquement la chaîne RESET afin d’identifier rapidement le coupable.

J’ai d’ailleurs deux versions de cette procédure :

• une dédiée aux cartes AES NEC,
• une autre pour les révisions AES plus classiques.

Voyons maintenant ce que nous raconte notre circuit RESET.

----------------------------------------------------------------------------------------

Unfortunately, despite our brand-new clock signal, there’s still no picture on screen.

The next thing to check is the RESET and HALT lines.

And that’s where things get interesting: both signals are stuck at ground level.

As I mentioned in a previous article, during power-up the RESET and HALT lines are intentionally held at 0V for a brief moment, allowing all the hardware to synchronize properly.

Once the startup sequence is complete, both lines should rise to 5V, allowing the system to begin normal operation.

If they remain stuck at 0V, absolutely nothing happens.

And by nothing, I really mean nothing.

The CPU doesn’t start, the logic doesn’t start, the video doesn’t start. 

Over the years I’ve developed a troubleshooting procedure specifically for this type of fault. It allows me to follow the RESET chain step by step and quickly identify the component responsible.

I actually use two versions of this procedure:

• one for NEC AES motherboards,
• another for the more common AES revisions.

Let’s see what the RESET circuit has to tell us

En suivant ma procédure de diagnostic, je finis par tomber sur quelque chose qui n’a rien à faire là.

Le signal HALT est clairement anormal.

Au lieu d’avoir un niveau logique franc et stable, le signal présente un comportement étrange qui empêche manifestement la séquence de démarrage de se dérouler correctement.

À ce stade, ce n’est plus le quartz qui nous bloque.

Quelque chose maintient le processeur dans un état où il ne peut tout simplement pas démarrer.

La bonne nouvelle, c’est que nous avons désormais une piste sérieuse.

La mauvaise, c’est que sur une AES NEC, le circuit RESET/HALT implique plusieurs composants et un peu de gymnastique intellectuelle avant de trouver le véritable coupable.

Sortons donc le schéma et remontons la piste…

-----------------------------------------------------------------------------------

Following my troubleshooting procedure, I eventually come across something that definitely doesn’t belong there.

The HALT signal is clearly abnormal.

Instead of a clean and stable logic level, the line exhibits unusual behavior that is obviously preventing the startup sequence from completing correctly.

At this point, the crystal oscillator is no longer our main concern.

Something is holding the processor in a state where it simply cannot start.

The good news is that we now have a solid lead.

The bad news is that on a NEC AES motherboard, the RESET/HALT circuitry involves several components and requires a bit of detective work before identifying the real culprit.

Time to pull out the schematics and start tracing the signal..

Alors je vais vous épargner les quelques heures passées à tourner en rond dans les schémas, à suivre des pistes et à sonder tout ce qui ressemble de près ou de loin à un signal RESET.

Au bout d’un moment, je tombe finalement sur quelque chose de suspect au niveau du LSPC-A0, le processeur graphique de première génération de la Neo Geo.

Sous le microscope, le problème saute immédiatement aux yeux : deux pistes sont reliées entre elles par un petit pont parasite.

Rien de spectaculaire, rien qui attire l’œil à l’œil nu, mais largement de quoi mettre le bazar dans les signaux de contrôle de la machine.

Un peu de flux, un nettoyage minutieux de la zone, et le court-circuit disparaît.

Et là, bonne nouvelle :

• le signal RESET revient à la normale,
• le signal HALT se comporte enfin correctement,
• toute la chaîne RESET réagit désormais comme prévu.

Comme quoi, parfois, plusieurs heures de diagnostic se terminent par la découverte d’un défaut de quelques dixièmes de millimètre caché entre deux pistes.

La Neo Geo commence enfin à montrer des signes de vie. Nous avons retrouvé notre horloge, nous avons retrouvé notre RESET…

La réparation avance dans la bonne direction. 

-------------------------------------------------------------------------------------------

I’ll spare you the several hours spent chasing signals, studying schematics, and probing every part of the RESET circuitry.

Eventually, I stumbled upon something suspicious around the LSPC-A0, the first-generation Neo Geo graphics processor.

Under the microscope, the issue became immediately obvious: two traces were accidentally bridged together.

Nothing dramatic, nothing that would easily catch the naked eye, but more than enough to wreak havoc on the system’s control signals.

A bit of flux, careful cleaning of the area, and the unwanted bridge was gone.

And just like that:

• the RESET signal returned to normal,
• the HALT line behaved correctly again,
• the entire reset chain started responding as expected.

It’s a good reminder that hours of troubleshooting can sometimes end with the discovery of a fault measuring only a fraction of a millimeter.

At this point, the Neo Geo was finally showing signs of life. We had recovered the master clock, we had recovered the RESET circuitry…

Things were finally moving in the right direction.

La console démarre enfin, et le son est bien présent.

Mais côté image, ce n’est toujours pas gagné : l’affichage est extrêmement sombre, presque comme si le bit shadow était activé en permanence.

À ce stade, il y a de fortes chances que le problème vienne du magnifique gloubiboulga de puces TTL raccordées entre elles, avec en bonus quelques pattes sectionnées par un réparateur mystère.

J’aurais pu prendre le temps de faire une cartographie complète de cette modification pour la documenter proprement sur le wiki…

Mais aujourd’hui, j’ai la flemme.

À vue de nez, cette modification doit correspondre à une partie de la logique du NEO-D0. Ce composant s’occupe notamment de diviser le signal d’horloge primaire afin d’alimenter plusieurs éléments de la console : le 68000, le LSPC2, la cartouche, ainsi qu’une copie du signal du 68000.

Je décide donc de dessouder les composants reliés entre eux, de les tester avec mon appareil, puis de remplacer également la puce dont une patte avait été sectionnée.

Voici ce qui avait été réalisé par notre réparateur fantôme :

Pin 10 du 74LS368 reliée à la pin 2 du 74LS161, avec la pin 4 du 74HC04 sectionnée.

Ci-dessous, la photo de la zone concernée. Le fil a déjà disparu et le 74HC04 a été remplacé, mais cela permet de voir où se situait cette modification assez créative.

---------------------------------------------------------------------------------------

The console finally boots, and the sound is working too.

But the video output is still far from perfect: the image is extremely dark, almost as if the shadow bit was permanently enabled.

At this point, there’s a good chance the issue is coming from the wonderful mess of TTL chips wired together, complete with a few cut pins left behind by our mystery repair technician.

I could have taken the time to fully map this modification and document it properly on the wiki…

But today, I was feeling lazy.

At first glance, this modification seems to reproduce part of the NEO-D0 logic. Among other things, that chip handles division of the primary clock signal used to feed several parts of the system: the 68000, the LSPC2, the cartridge slot, and a copy of the 68000 clock signal.

So I desoldered the interconnected TTL chips, tested them with my chip tester, and also replaced the IC with the cut pin.

Here is what our mysterious previous repairer had done:

Pin 10 of the 74LS368 was connected to pin 2 of the 74LS161, while pin 4 of the 74HC04 had been cut.

The photo below shows the modified area. The wire has already been removed and the 74HC04 has already been replaced, but at least you can see where this rather creative modification took place.

Après avoir supprimé les modifications douteuses et remplacé les composants défectueux, l’image retrouve enfin une apparence normale.

Les couleurs sont de retour, la luminosité est correcte, et notre Neo Geo commence enfin à ressembler à une Neo Geo.

Tant que la console est ouverte, j’en profite pour lui offrir quelques améliorations bien connues de la communauté.

Au programme :

• Installation d’un UniBIOS
• Remplacement des résistances RGB de 2,2 kΩ par des 3 kΩ

Cette petite modification permet de réduire légèrement le niveau des signaux RGB, ce qui se traduit généralement par une image plus équilibrée et des couleurs plus agréables sur la plupart des écrans modernes et professionnels.

Le résultat est immédiat : les couleurs gagnent en contraste, les dégradés sont plus propres et l’image est tout simplement plus agréable à regarder.

Après un quartz défaillant, un circuit RESET récalcitrant, un pont parasite sur le LSPC et quelques modifications TTL créatives, cette AES NEC est finalement de retour dans le monde des vivants.

----------------------------------------------------------------------------------------

After removing the questionable modifications and replacing the faulty components, the picture finally returns to normal.

Colors are back, brightness is correct, and the Neo Geo finally looks like a Neo Geo again.

Since the console was already open on the bench, I decided to give it a couple of well-known upgrades.

The work included:

• Installing an UniBIOS
• Replacing the original 2.2 kΩ RGB resistors with 3 kΩ values

This small modification slightly adjusts the RGB output levels, usually resulting in a better-balanced image and more pleasing colors on most modern displays and professional monitors.

The improvement is immediately noticeable: colors look richer, gradients are cleaner, and the overall image quality is simply more enjoyable.

After dealing with a faulty crystal oscillator, a stubborn RESET circuit, a solder bridge on the LSPC, and some rather creative TTL modifications, this NEC AES is finally back among the living.