lim は n を自然数の範囲で無限にする
[x] は x を超えない最大の整数とする
つまり

[1 - 1/1] = [0] = 0
[1 - 1/2] = [0.5] = 0
[1 - 1/3] = [0.666...] = 0
[1 - 1/4] = [0.75] = 0
...

の極限です