$$
A^2 =
\begin{pmatrix}
4 & 0 & 0 & -2 \\
0 & 4 & 0 & 2 \\
0 & 0 & 4 & 2 \\
-2 & 2 & 2 & 4
\end{pmatrix}, \quad
A^3 =
\begin{pmatrix}
2 & 6 & 6 & 6 \\
6 & 2 & -6 & -6 \\
6 & -6 & 2 & -6 \\
6 & -6 & -6 & -10
\end{pmatrix}.
$$

On remarque que $A^3 = 6A – 4I$, donc $A(A^2 – 6I) = 4I$, donc $A(\frac{1}{4}(A^2 – 6I)) = I$.

Ceci démontre que $A$ est inversible et que :

$$
A^{-1} = \frac{1}{4}(A^2 – 6I) = \frac{1}{2}
\begin{pmatrix}
1 & 0 & 0 & 1 \\
0 & 1 & 0 & -1 \\
0 & 0 & 1 & -1 \\
1 & -1 & -1 & 1
\end{pmatrix}.
$$

Pour plus de lisibilité, on choisit l’exemple $n =5$ qui se généralise très bien.
On utilise la méthode du pivot de Gauss :
$$
A =
\begin{pmatrix}
1 & 1 & 1 & 1 & 1 \\
1 & 2 & 2 & 2 & 2 \\
1 & 2 & 3 & 3 & 3 \\
1 & 2 & 3 & 4 & 4 \\
1 & 2 & 3 & 4 & 5
\end{pmatrix}
\quad
I_5 =
\begin{pmatrix}
1 & 0 & 0 & 0 & 0 \\
0 & 1 & 0 & 0 & 0 \\
0 & 0 & 1 & 0 & 0 \\
0 & 0 & 0 & 1 & 0 \\
0 & 0 & 0 & 0 & 1
\end{pmatrix}
$$
On effectue des opérations successives sur les colonnes :
$$C_j \leftarrow C_j – C_{j-1}, \quad j = 5, \dots, 2$$
$$
\begin{pmatrix}
1 & 0 & 0 & 0 & 0 \\
1 & 1 & 0 & 0 & 0 \\
1 & 1 & 1 & 0 & 0 \\
1 & 1 & 1 & 1 & 0 \\
1 & 1 & 1 & 1 & 1
\end{pmatrix}
\quad
\begin{pmatrix}
1 & -1 & 0 & 0 & 0 \\
0 & 1 & -1 & 0 & 0 \\
0 & 0 & 1 & -1 & 0 \\
0 & 0 & 0 & 1 & -1 \\
0 & 0 & 0 & 0 & 1
\end{pmatrix}
$$
On effectue encore des opérations successives sur les colonnes :
$$C_j \leftarrow C_j – C_{j+1}, \quad j = 1, \dots, 4$$
$$
I_5 =
\begin{pmatrix}
1 & 0 & 0 & 0 & 0 \\
0 & 1 & 0 & 0 & 0 \\
0 & 0 & 1 & 0 & 0 \\
0 & 0 & 0 & 1 & 0 \\
0 & 0 & 0 & 0 & 1
\end{pmatrix}
\quad
A^{-1} =
\begin{pmatrix}
2 & -1 & 0 & 0 & 0 \\
-1 & 2 & -1 & 0 & 0 \\
0 & -1 & 2 & -1 & 0 \\
0 & 0 & -1 & 2 & -1 \\
0 & 0 & 0 & -1 & 1
\end{pmatrix}
$$
On a donc démontré que la matrice A est inversible et obtenu une expression simple de la matrice inverse $A^{-1}$.

On va donner l’allure d’une matrice de l’application linéaire $f$ afin de démontrer que cette application linéaire est inversible.

Soit $j \in \{0, \dots, n\}$.
$$f(X^j) = \left( a_0^j, j a_1^{j-1}, j(j-1)a_2^{j-2}, \dots, j!, 0, \dots, 0 \right).$$
On en déduit que la matrice de $f$ dans la base canonique de $\mathbb{C}_n[X]$ vers la base canonique de $\mathbb{C}_{n+1}$ est de la forme :

$$
\begin{pmatrix}
0! & & & & \\
0 & 1! & & & \\
\vdots & \ddots & 2! & & \\
\vdots & (0) & \ddots & \ddots & \\
0 & \dots & \dots & 0 & n!
\end{pmatrix}.
$$
Cette matrice étant triangulaire supérieure avec des éléments diagonaux tous non nuls, on en déduit que cette matrice est inversible donc que l’application linéaire $f$ est aussi inversible. On peut aussi dire que l’application linéaire $f$ est un isomorphisme.

On pose la matrice colonne $U$ définie par $U = \begin{pmatrix} 1 \\ \vdots \\ 1 \end{pmatrix} \in M_{n,1}(\mathbb{C})$.
On effectue le produit matriciel :
$$
AU =
\begin{pmatrix}
a_{11} & \dots & a_{1n} \\
\vdots & & \vdots \\
a_{n1} & \dots & a_{nn}
\end{pmatrix}
\begin{pmatrix} 1 \\ \vdots \\ 1 \end{pmatrix}
=
\begin{pmatrix}
\sum\limits_{j=1}^{n} a_{1j} \\
\vdots \\
\sum\limits_{j=1}^{n} a_{nj}
\end{pmatrix}
=
\begin{pmatrix}
\lambda\\
\vdots \\
\lambda
\end{pmatrix}
=
\lambda U.
$$

Sachant que $A$ est inversible, on peut effectuer les opérations suivantes en utilisant l’associativité du produit matriciel :

$$
U = (A^{-1}A)U = A^{-1}(AU) = A^{-1}(\lambda U) = \lambda A^{-1}U.
$$
Si $\lambda = 0$, alors $U = 0$, ce qui est absurde.
Nécessairement $\lambda \neq 0$, ce qui permet d’écrire $A^{-1}U = \lambda^{-1}U$.

On recommence à faire un produit matriciel :
$$
\lambda^{-1}U = A^{-1}U = BU =
\begin{pmatrix}
b_{11} & \dots & b_{1n} \\
\vdots & & \vdots \\
b_{n1} & \dots & b_{nn}
\end{pmatrix}
\begin{pmatrix} 1 \\ \vdots \\ 1 \end{pmatrix}
=
\begin{pmatrix}
\sum\limits_{j=1}^{n} b_{1j} \\
\vdots \\
\sum\limits_{j=1}^{n} b_{nj}
\end{pmatrix}.
$$
Or, deux vecteurs colonnes sont égaux entre eux si seulement si leurs éléments homologues sont égaux entre eux. Ceci permet d’obtenir la conclusion :

$$
\forall i \in \{1, \dots, n\},\quad\sum\limits_{j=1}^{n} b_{ij} = \frac{1}{\lambda}.
$$

Soit $k\in \mathbb{N^*}$.
On pose la matrice colonne $Y$ définie par :
$$Y = \left( I + A + \dots + A^{k-1} \right) X$$
Il est évident que la matrice colonne $Y$ est positive.
$$A Y = \left( A + A^2 + \dots + A^{k-1} + A^k \right) X$$
$$A Y = \left( A + \dots + A^{k-1} \right) X + A^k X$$
$$A Y = \left( A + \dots + A^{k-1} \right) X + X$$
$$A Y = \left( I + A + \dots + A^{k-1} \right) X$$
$$A Y = Y$$

On pose la matrice $J_n$ définie par :
$$J_n = \begin{pmatrix} 1 & \dots & 1 \\ \vdots & \ddots & \vdots \\ 1 & \dots & 1 \end{pmatrix}$$
Le carré de cette matrice $J_n$ a une expression simple :
$$J_n^2 = \begin{pmatrix} n & \dots & n \\ \vdots & \ddots & \vdots \\ n & \dots & n \end{pmatrix} = n J_n$$
On va exprimer la matrice $A$ en fonction de la matrice identité et de la matrice $J_n$ :
$$A = \begin{pmatrix} a – b + b & b & \dots & b \\ b & a – b + b & \dots & b \\ \vdots & \vdots & \ddots & \vdots \\ b & b & \dots & a – b + b \end{pmatrix}
= \begin{pmatrix} a – b & 0 & \dots & 0 \\ 0 & a – b & \dots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \dots & a – b \end{pmatrix}
+ \begin{pmatrix} b & \dots & b \\ \vdots & \ddots & \vdots \\ b & \dots & b \end{pmatrix}$$
$$A = (a – b) I_n + b J_n$$
On calcule le produit matriciel $A J_n$ :
$$A J_n = \left( (a – b) I_n + b J_n \right) J_n$$
$$A J_n= (a – b) J_n + b J_n^2$$
$$A J_n= (a – b) J_n + n b J_n$$
$$A J_n = \left( a + (n-1) b \right) J_n$$
Si $a + (n-1) b = 0$ :
$$A J_n = 0 , \quad J_n\neq 0$$
Donc la matrice $A$ n’est pas inversible.
Si $a + (n-1) b \neq 0$ :
$$J_n = \frac{1}{a + (n-1) b} A J_n$$
Donc :
$$ A = (a – b) I_n + b \left( \frac{1}{a + (n-1) b} A J_n \right)$$
$$\iff A \left( I_n – \frac{b}{a + (n-1) b} J_n \right) = (a – b) I_n $$
Si $\quad a = b $ :
$$ A = b J_n$$
Donc la matrice $A$ n’est pas inversible.
Si $\quad a \neq b $ :
$$ A \left( \frac{1}{a – b} I_n – \frac{b}{(a – b)(a + (n-1) b)} J_n \right) = I_n$$
Donc la matrice $A$ est inversible et la matrice inverse a pour expression :
$$ A^{-1} = \frac{1}{a – b} I_n – \frac{b}{(a – b)(a + (n-1) b)} J_n $$

On pose $C_1,\dots,C_n$ les colonnes de la matrice $M$.
On effectue une opération sur la dernière colonne :
$$C_n \longleftarrow C_n – C_1 + C_2 + \dots + (-1)^{n-1}C_{n-1},$$
Le rang d’une matrice étant préservé par cette opération, on obtient :

$$
\operatorname{rg} (M) = \operatorname{rg}
\begin{pmatrix}
1 & 0 & \dots & 0 & 0 \\
1 & 1 & \ddots & (0) & 0 \\
0 & 1 & \ddots & \ddots & \vdots \\
\vdots & (0) & \ddots & 1 & 0 \\
0 & \dots & 0 & 1 & 1 + (-1)^{n-1}
\end{pmatrix}.
$$

• Si $n$ est pair, alors la dernière colonne de $A_n$ est nulle, sachant que les $(n – 1)$ premières colonnes de $A_n$ forment une famille libre, on obtient : $\operatorname{rg} (M) = n – 1$.

• Si $n$ est impair, alors les $n$ colonnes de $A_n$ forment une famille libre, donc : $\operatorname{rg} (A_n) = n$.

Conclusion :

$$
\operatorname{rg} (A_n) =
\begin{cases}
n – 1, & \text{si } n \text{ est pair}, \\
n, & \text{si } n \text{ est impair}.
\end{cases}
$$

$$A^5 + A = I_n \iff A^5 + A – I_n = O_{\mathcal{M}_n(\mathbb{R})}$$
On observe que $X^5 + X – 1$ est un polynôme annulateur de la matrice $A$. On effectue la division euclidienne du polynôme $X^5 + X – 1$ par le polynôme $X^2 + X + 1 $ :

$$
\begin{array}{r|l}
& X^2 + X + 1 \\
\hline
X^5 + X – 1 & X^3 – X^2 + 1 \\
– (X^5 + X^4 + X^3) & \\
\hline
– X^4 – X^3 + X – 1 & \\
– (-X^4 – X^3 – X^2) & \\
\hline
X^2 + X – 1 & \\
– (X^2 + X + 1) & \\
\hline
-2 &
\end{array}
$$
Ceci nous donne :
$$X^5 + X – 1 = (X^2 + X + 1)(X^3 – X^2 + 1) – 2$$
On évalue cette égalité en la matrice $A$ :
$$(A^2 + A + I_n)(A^3 – A^2 + I_n) – 2 I_n = A^5 + A – I_n$$
$$\iff(A^2 + A + I_n)(A^3 – A^2 + I_n) – 2 I_n = O_{\mathcal{M}_n(\mathbb{R})}$$
$$\iff (A^2 + A + I_n)(A^3 – A^2 + I_n) = 2 I_n$$
$$\iff (A^2 + A + I_n) \left(\frac{1}{2} (A^3 – A^2 + I_n) \right) = I_n$$
Ceci démontre que $A^2 + A + I_n$ est une matrice inversible, sa matrice inverse et définie par :
$$(A^2 + A + I_n)^{-1} = \frac{1}{2} (A^3 – A^2 + I_n)$$

Soit $A$ une matrice qui commute avec toutes les autres matrices.
En particulier, la matrice $A$ commute avec toutes les matrices élémentaires notées $ E_{ij}$
Soit $(i,j) \in \{1, \dots, n\}^2$ :
$$ AE_{ij} = E_{ij} A. $$
$$
AE_{ij} =
\begin{pmatrix}
0 & \dots & 0 & a_{1i} & 0 & \dots & 0 \\
\vdots & & \vdots & \vdots & \vdots & & \vdots \\
0 & \dots & 0 & \vdots & 0 & \dots & 0 \\
\vdots & & \vdots & \vdots & \vdots & & \vdots \\
0 & \dots & 0 & a_{ni} & 0 & \dots & 0
\end{pmatrix}
$$
La colonne qui n’est pas a priori nulle se situe à la $j$-ème position.
$$
E_{ij} A =
\begin{pmatrix}
0 & \dots & \dots & 0 & \dots & 0 \\
\vdots & & & \vdots & & \vdots \\
a_{j1} & \dots & & \dots & & \dots & a_{jn} \\
\vdots & & & \vdots & & \vdots \\
0 & \dots & \dots & 0 & \dots & 0
\end{pmatrix}
$$
La ligne qui n’est pas a priori nulle se situe à la $i$-ème position.

On en déduit que les coefficients non diagonaux de la matrice $A$ sont tous nuls et que les coefficients diagonaux de la matrice A sont tous égaux entre eux. Ceci démonter que $A$ est est une matrice scalaire.
Réciproquement une matrice scalaire commute avec toutes les autres matrices.

Conclusion : l’ensemble des matrices qui commutent avec toutes les autres matrices est l’ensemble des matrices scalaires.

On pose la matrice $N$ définie par :
$$
N = \begin{pmatrix}
0 & 1 & 1 \\
0 & 0 & 1 \\
0 & 0 & 0
\end{pmatrix}
$$
$I_3$ et $N$ commutent et $M = I_3 + N$.

On calcule les premières puissances de la matrice $N$ :
$$
N^2 = \begin{pmatrix}
0 & 0 & 1 \\
0 & 0 & 0 \\
0 & 0 & 0
\end{pmatrix},
\quad N^3 = 0.
$$
On vient de démontrer que la matrice $N$ est une matrice nilpotente.

Soit $n \in \mathbb{N}$.
Pour des matrices qui commutent, on peut appliquer la formule du binôme de Newton :
$$ M^n = (I_3 + N)^n = \sum_{k=0}^{n} \binom{n}{k} N^k $$
$$= I_3 + \binom{n}{1} N + \binom{n}{2} N^2 $$
$$
= \begin{pmatrix}
1 & n & \frac{n(n+1)}{2} \\
0 & 1 & n \\
0 & 0 & 1
\end{pmatrix}
$$
On conjecture que la formule précédente est aussi vraie pour des entiers négatifs. On va le démontrer.

Soit $n \in \mathbb{N}$.
$$
M^n\begin{pmatrix}
1 & -n & \frac{-n(-n+1)}{2} \\
0 & 1 & -n \\
0 & 0 & 1
\end{pmatrix}
$$
$$
=
\begin{pmatrix}
1 & n & \frac{n(n+1)}{2} \\
0 & 1 & n \\
0 & 0 & 1
\end{pmatrix}
\begin{pmatrix}
1 & -n & \frac{-n(-n+1)}{2} \\
0 & 1 & -n \\
0 & 0 & 1
\end{pmatrix}
$$
$$
= \begin{pmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 1
\end{pmatrix}
$$
$$= I_3$$
Donc, par définition de la matrice inverse :
$$M^{-n}=(M^n)^{-1}= \begin{pmatrix}
1 & -n & \frac{-n(-n+1)}{2} \\
0 & 1 & -n \\
0 & 0 & 1
\end{pmatrix}$$
Soit $n \in \mathbb{Z}_-$, alors $-n \in \mathbb{N}$.
$$M^n = M^{-(-n)} $$
$$
= \begin{pmatrix}
1 & -(-n) & \frac{-(-n)(-(-n)+1)}{2} \\
0 & 1 & -(-n) \\
0 & 0 & 1
\end{pmatrix}
$$
$$
= \begin{pmatrix}
1 & n & \frac{n(n+1)}{2} \\
0 & 1 & n \\
0 & 0 & 1
\end{pmatrix}
$$
Conclusion :
$$
\forall n \in \mathbb{Z},\quad
M^n = \begin{pmatrix}
1 & n & \frac{n(n+1)}{2} \\
0 & 1 & n \\
0 & 0 & 1
\end{pmatrix}
$$

Le fait de devoir démontrer une inégalité faisant intervenir $n\in \mathbb{N}^*$ nombres fait penser à l’inégalité de Jensen, d’autant plus que l’on a des sommes (de termes positifs) égales à $1$.

• Si $ \exists k \in \{1, \dots, n\} \mid x_k = 0 $ :
$$\prod_{i=1}^{n} x_i = 0 \leq \prod_{i=1}^{n} y_i$$
L’inégalité est alors vérifiée de façon évidente.

• Si $ \forall i \in \{1, \dots, n\}, \quad x_i > 0 $ :

On va démontrer que, dans ce cas, on a : $ \prod_{i=1}^{n} y_i > 0 $.

On suppose par l’absurde que $ \prod_{i=1}^{n} y_i = 0 $.
Donc $ \exists k \in \{1, \dots, n\} \mid y_k = 0 $.
On a alors :
$$0 = y_k = \sum_{j=1}^{n} a_{kj} x_j$$
On sait que : $\forall j \in \{1, \dots, n\}, \quad a_{kj} x_j \geq 0$.
Or, une somme de termes positifs est nulle si et seulement si tous les termes sont nuls. On en déduit :
$$\forall j \in \{1, \dots, n\}, \quad a_{kj} x_j = 0$$
$$\forall j \in \{1, \dots, n\}, \quad a_{kj} = 0, \quad x_j > 0$$
En effectuant la somme :
$$\sum_{j=1}^{n} a_{kj} = 0 \neq 1$$
On aboutit à une contradiction.
On en déduit que : $ \prod_{i=1}^{n} y_i > 0 $, ceci autorise l’application de la fonction logarithme.
$$\ln \left( \prod_{i=1}^{n} y_i \right) = \sum_{i=1}^{n} \ln(y_i)$$
$$= \sum_{i=1}^{n} \left( \ln \left( \sum_{j=1}^{n} a_{ij} x_j \right)\right)$$

Or $\forall j \in \{1, \dots, n\}, \quad \sum_{j=1}^{n} a_{ij} = 1 $ et $\forall (i,j) \in \{1, \dots, n\}^2, a_{ij} \geq 0$ et la fonction logarithme est une fonction concave, on peut donc appliquer l’inégalité de Jensen :
$$\sum_{i=1}^{n} \left( \ln \left( \sum_{j=1}^{n} a_{ij} x_j \right)\right) \geq \sum_{i=1}^{n} \left( \sum_{j=1}^{n} a_{ij} \ln (x_j) \right)$$
$$= \sum_{j=1}^{n} \sum_{i=1}^{n} a_{ij} \ln (x_j)$$
$$= \sum_{j=1}^{n} \ln (x_j) \left( \sum_{i=1}^{n} a_{ij} \right)$$
$$= \sum_{j=1}^{n} \ln (x_j) \times 1$$
$$= \ln \left( \prod_{j=1}^{n} x_j \right)$$
$$= \ln \left( \prod_{i=1}^{n} x_i \right)$$
La fonction logarithme étant une fonction (strictement) croissante sur son ensemble de définition, on en déduit la conclusion de l’exercice :
$$\prod_{i=1}^{n} y_i \geq \prod_{i=1}^{n} x_i$$