Diss. ETH No. 22201

A Partial-Inverse Approach to Decoding Reed-Solomon Codes and Polynomial Remainder Codes A dissertation submitted to ETH Zurich for the degree of Doctor of Sciences

presented by

Jiun-Hung Yu Master of Science in Communication Engineering, NCTU, Hinchu, Taiwan born on March 16, 1979 citizen of Taiwan

accepted on the recommendation of Prof. Dr. Hans-Andrea Loeliger, examiner Prof. Dr. Martin Bossert, co-examiner 2014

Abstract The thesis develops a new approach to the central themes of algebraic coding theory. The focus here is the newly introduced concept of a partial-inverse polynomial in a quotient ring F [x]/m(x). In particular, the decoding of Reed-Solomon codes can be attributed to the computation of a partial-inverse polynomial. The problem of practical computation of a partial-inverse polynomial is closely related to the problem of shift-register synthesis, which is based on the well-known Berlekamp-Massey algorithm. A major result of this work is a (new) algorithm for computing a partial-inverse polynomial. The new algorithm is very similar to the Berlekamp-Massey algorithm, but it is applicable generally, e.g., to extended Reed-Solomon codes and polynomial remainder codes. The algorithm can also be easily transformed into the so-called Euclidean algorithm, and thus provides a new derivation of the later. For decoding Reed-Solomon codes, the algorithm can be directly applied to the classical key equation; however, mathematically natural is the application to a new key equation that applies in particular to generalizations of Reed-Solomon codes. Two new interpolation are also presented to accompany this new key equation. Another focus of this work is the polynomial remainder codes, a natural generalization of Reed-Solomon codes. The theory of such codes is carefully constructed as in earlier work. In particular, varying degrees of remainders are allowed, resulting in two different definitions of the distance between two codewords. The decoding of these codes leads directly to the mentioned new key equation. A focus of the recent algebraic coding theory is the decoding of errors beyond half the minimum distance. A mainline of such algorithms is based on generalization of the Berlekamp-Massey algorithm on several parallel sequences. In this work, a corresponding generalization of the vii

viii

Abstract

decoding algorithm via some partial-inverse polynomials is also developed. Keywords: Error-Correcting Codes, Reed-Solomon Codes, Algebraic Coding Theory, Polynomial Remainder Codes, Berlekamp-Massey Algorithm, Padé Approximation, Euclidean Algorithm, Partial-Inverse Problem, Simultaneous Partial-Inverse Problem.

Kurzfassung Die Arbeit entwickelt einen neuen Zugang zu zentralen Themen der algebraischen Codierungstheorie. Im Mittelpunkt steht der hier neu eingeführte Begriff eines teilinversen Polynoms in einem Restklassenring F [x]/m(x). Insbesondere kann die Decodierung von Reed-Solomon Codes auf die Berechnung eines teilinversen Polynoms zurückgeführt werden. Das Problem der praktischen Berechnung eines teilinversen Polynoms ist eng verwandt mit dem Problem der Schieberegister-Synthese, welches dem bekannten Berlekamp-Massey-Algorithmus zugrunde liegt. Ein Hauptergebnis dieser Arbeit ist ein (neuer) Algorithmus zur Berechnung eines teilinversen Polynoms. Dieser neue Algorithmus ist dem Berlekamp-Massey Algorithmus sehr ähnlich, aber er ist allgemeiner einsetzbar, z.B. für erweiterte Reed-Solomon Codes und für polynomiale Restklassen-Codes. Der neue Algorithmus kann ausserdem sehr leicht in den sog. Euklidischen Algorithmus transformiert werden und liefert somit eine neue Herleitung des Letzteren. Zur Decodierung von Reed-Solomon Codes kann der neue Algorithmus direkt auf die klassische Schlüsselgleichung angewendet werden; mathematisch natürlicher ist aber die Anwendung auf eine neue Schlüsselgleichung, die insbesondere auch für Verallgemeinerungen von ReedSolomon Codes gilt. Passend zu dieser neuen Schlüsselgleichung werden auch zwei neue Interpolationsformeln vorgestellt. Ein weiterer Schwerpunkt dieser Arbeit sind polynomiale RestklassenCodes, eine natürliche Verallgemeinerung von Reed-Solomon Codes. Die Theorie solcher Codes wird sorgfältiger aufgebaut als in früheren Arbeiten. Insbesondere werden auch Residuen von unterschiedlichem Grad zugelassen, was zu zwei unterschiedlichen Definitionen der Distanz zwischen zwei Codewörtern führt. Die Decodierung solcher Codes führt direkt zur erwähnten neuen Schlüsselgleichung. Ein Schwerpunkt der neueren algebraischen Codierungstheorie ist ix

x

Kurzfassung

die Decodierung von Fehlern jenseits der halben Minimaldistanz. Eine Hauptlinie solcher Algorithmen beruht auf Verallgemeinerungen des Berlekamp-Massey-Algorithmus auf mehrere parallele Sequenzen. In dieser Arbeit wird nun auch eine entsprechende Verallgemeinerung der Decodierung via teilinverse Polynome ausgearbeitet. Stichworte: Fehlerkorrigierende Codes, Reed-Solomon Codes, algebraische Codierungstheorie, Restklassen-Codes, Berlekamp-MasseyAlgorithmus, Padé-Approximation, Euklidischer Algorithmus.