A no ser que lo recuerde mal y me equivoque:
Incompatible: En el proceso de resolución, te toparás con algún resultado imposible, como 0=1 o x=2y y por otra parte y=2x.
Indeterminado: A medida que vayas resolviendo, te saldrá que algunas ecuaciones son linealmente dependientes de otras, como por ejemplo que una sea múltiplo de otra o que una sea la suma de otras dos. A raíz de esto, tendrás más incógnitas que soluciones y no podrás resolver de forma absoluta el sistema, sino que tendrás que dejar unas incógnitas en función de otras.
Como sé que me explico bastante mal, avísame si no entiendes alguna parte xD