Based on first-principles calculations and effective Hamiltonian analysis, we predict a topological phase transition from normal to topological insulators and the opening of a gap without breaking the time-reversal symmetry in TlBi(S1−xSex)2. The transition can be driven by modulating the Se concentration, and the rescaled spin-orbit coupling and lattice parameters are the key ingredients for the transition. For topological surface states, the Dirac cone evolves differently as the explicit breaking of inversion symmetry and the energy band can be opened under asymmetry surface. Our results present theoretical evidence for experimental observations [Xu et al., Science 332, 560 (2011); Sato et al., Nat. Phys. 7, 840 (2011)].

1.
J. E.
Moore
,
Nature (London)
464
,
194
(
2010
).
2.
M.
Hasan
and
C.
Kane
,
Rev. Mod. Phys.
82
,
3045
(
2010
).
3.
X.-L.
Qi
and
S.-C.
Zhang
,
Rev. Mod. Phys.
83
,
1057
(
2011
).
4.
B. A.
Bernevig
,
T. L.
Hughes
, and
S. C.
Zhang
,
Science
314
,
1757
(
2006
).
5.
M.
Konig
,
S.
Wiedmann
,
C.
Brune
,
A.
Roth
,
H.
Buhmann
,
L. W.
Molenkamp
,
X. L.
Qi
, and
S. C.
Zhang
,
Science
318
,
766
(
2007
).
6.
D.
Hsieh
,
D.
Qian
,
L.
Wray
,
Y.
Xia
,
Y. S.
Hor
,
R. J.
Cava
, and
M. Z.
Hasan
,
Nature (London)
452
,
970
(
2008
).
7.
P.
Roushan
,
J.
Seo
,
C. V.
Parker
,
Y. S.
Hor
,
D.
Hsieh
,
D.
Qian
,
A.
Richardella
,
M. Z.
Hasan
,
R. J.
Cava
, and
A.
Yazdani
,
Nature (London)
460
,
1106
(
2009
).
8.
Y.
Xia
,
D.
Qian
,
D.
Hsieh
,
L.
Wray
,
A.
Pal
,
H.
Lin
,
A.
Bansil
,
D.
Grauer
,
Y. S.
Hor
,
R. J.
Cava
, and
M. Z.
Hasan
,
Nat. Phys.
5
,
398
(
2009
).
9.
H.
Zhang
,
C.-X.
Liu
,
X.-L.
Qi
,
X.
Dai
,
Z.
Fang
, and
S.-C.
Zhang
,
Nat. Phys.
5
,
438
(
2009
).
10.
H.
Lin
,
R.
Markiewicz
,
L.
Wray
,
L.
Fu
,
M.
Hasan
, and
A.
Bansil
,
Phys. Rev. Lett.
105
,
036404
(
2010
).
11.
K.
Kuroda
,
M.
Ye
,
A.
Kimura
,
S.
Eremeev
,
E.
Krasovskii
,
E.
Chulkov
,
Y.
Ueda
,
K.
Miyamoto
,
T.
Okuda
,
K.
Shimada
,
H.
Namatame
, and
M.
Taniguchi
,
Phys. Rev. Lett.
105
,
146801
(
2010
).
12.
T.
Sato
,
K.
Segawa
,
H.
Guo
,
K.
Sugawara
,
S.
Souma
,
T.
Takahashi
, and
Y.
Ando
,
Phys. Rev. Lett.
105
,
136802
(
2010
).
13.
S. Y.
Xu
,
Y.
Xia
,
L. A.
Wray
,
S.
Jia
,
F.
Meier
,
J. H.
Dil
,
J.
Osterwalder
,
B.
Slomski
,
A.
Bansil
,
H.
Lin
,
R. J.
Cava
, and
M. Z.
Hasan
,
Science
332
,
560
(
2011
).
14.
T.
Sato
,
K.
Segawa
,
K.
Kosaka
,
S.
Souma
,
K.
Nakayama
,
K.
Eto
,
T.
Minami
,
Y.
Ando
, and
T.
Takahashi
,
Nat. Phys.
7
,
840
(
2011
).
15.
Z.
Qiao
,
W.-K.
Tse
,
H.
Jiang
,
Y.
Yao
, and
Q.
Niu
,
Phys. Rev. Lett.
107
,
256801
(
2011
).
16.
J.
Zhang
,
C. Z.
Chang
,
Z.
Zhang
,
J.
Wen
,
X.
Feng
,
K.
Li
,
M.
Liu
,
K.
He
,
L.
Wang
,
X.
Chen
,
Q. K.
Xue
,
X.
Ma
, and
Y.
Wang
,
Nat. Commun.
2
,
574
(
2011
).
17.
T.
Arakane
,
T.
Sato
,
S.
Souma
,
K.
Kosaka
,
K.
Nakayama
,
M.
Komatsu
,
T.
Takahashi
,
Z.
Ren
,
K.
Segawa
, and
Y.
Ando
,
Nat. Commun.
3
,
636
(
2012
).
18.
Y. L.
Chen
,
J.-H.
Chu
,
J. G.
Analytis
,
Z. K.
Liu
,
K.
Igarashi
,
H.-H.
Kuo
,
X. L.
Qi
,
S. K.
Mo
,
R. G.
Moore
,
D. H.
Lu
,
M.
Hashimoto
,
T.
Sasagawa
,
S. C.
Zhang
,
I. R.
Fisher
,
Z.
Hussain
, and
Z. X.
Shen
,
Science
329
,
659
(
2010
).
19.
R.
Yu
,
W.
Zhang
,
H. J.
Zhang
,
S. C.
Zhang
,
X.
Dai
, and
Z.
Fang
,
Science
329
,
61
(
2010
).
20.
C.
Niu
,
Y.
Dai
,
M.
Guo
,
W.
Wei
,
Y.
Ma
, and
B.
Huang
,
Appl. Phys. Lett.
98
,
252502
(
2011
).
21.
See supplemental material at http://dx.doi.org/10.1063/1.4764946 for computational methods and materials, Figs. S1, S2, and S3.
22.
K.
Hoang
and
S. D.
Mahanti
,
Phys. Rev. B
77
,
205107
(
2008
).
23.
S.
Eremeev
,
G.
Bihlmayer
,
M.
Vergniory
,
Y.
Koroteev
,
T.
Menshchikova
,
J.
Henk
,
A.
Ernst
, and
E.
Chulkov
,
Phys. Rev. B
83
,
205129
(
2011
).
24.
L.
Vegard
,
Z. Phys.
5
,
17
(
1921
).
25.
M. S.
Hybertsen
and
S. G.
Louie
,
Phys. Rev. B
34
,
5390
(
1986
).
26.
K.
Park
,
J.
Heremans
,
V.
Scarola
, and
D.
Minic
,
Phys. Rev. Lett.
105
,
186801
(
2010
).
27.
L.
Fu
and
C.
Kane
,
Phys. Rev. B
76
,
045302
(
2007
).
28.
L.
Fu
,
Phys. Rev. Lett.
103
,
266801
(
2009
).
29.
D.
Xiao
,
Y.
Yao
,
W.
Feng
,
J.
Wen
,
W.
Zhu
,
X.-Q.
Chen
,
G.
Stocks
, and
Z.
Zhang
,
Phys. Rev. Lett.
105
,
096404
(
2010
).
30.
Y.
Sun
,
X.-Q.
Chen
,
C.
Franchini
,
D.
Li
,
S.
Yunoki
,
Y.
Li
, and
Z.
Fang
,
Phys. Rev. B
84
,
165127
(
2011
).
31.
Y.
Ma
,
Y.
Dai
,
M.
Guo
,
C.
Niu
,
Y.
Zhu
, and
B.
Huang
,
ACS Nano.
6
,
1695
(
2012
).
32.
Y.
Ma
,
Y.
Dai
,
M.
Guo
,
C.
Niu
,
L.
Yu
, and
B.
Huang
,
Nanoscale
3
,
2301
(
2011
).
33.
J.
Chang
,
L.
Register
,
S.
Banerjee
, and
B.
Sahu
,
Phys. Rev. B
83
,
235108
(
2011
).
34.
L.
Fu
,
C.
Kane
, and
E.
Mele
,
Phys. Rev. Lett.
98
,
106803
(
2007
).
35.
W.-Y.
Shan
,
H.-Z.
Lu
, and
S.-Q.
Shen
,
New J. Phys.
12
,
043048
(
2010
).
36.
Y.
Zhang
,
K.
He
,
C.-Z.
Chang
,
C.-L.
Song
,
L.-L.
Wang
,
X.
Chen
,
J.-F.
Jia
,
Z.
Fang
,
X.
Dai
,
W.-Y.
Shan
,
S.-Q.
Shen
,
Q.
Niu
,
X.-L.
Qi
,
S.-C.
Zhang
,
X.-C.
Ma
, and
Q.-K.
Xue
,
Nat. Phys.
6
,
584
(
2010
).
37.
C.
Niu
,
Y.
Dai
,
L.
Yu
,
M.
Guo
,
Y.
Ma
, and
B.
Huang
,
Appl. Phys. Lett.
99
,
142502
(
2011
).
38.
H.
Li
,
L.
Sheng
, and
D.
Xing
,
Phys. Rev. B
85
,
045118
(
2012
).

Supplementary Material

You do not currently have access to this content.