purebasic.info

PureBasic forum
Текущее время: Вс ноя 19, 2017 3:13 pm

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ 1 сообщение ] 
Автор Сообщение
 Заголовок сообщения: Конвертация кода из UTF8 в UTF16
СообщениеДобавлено: Чт окт 19, 2017 12:26 am 
Не в сети
профессор

Зарегистрирован: Пн июл 22, 2013 11:00 pm
Сообщений: 531
Благодарил (а): 2 раз.
Поблагодарили: 29 раз.
Пункты репутации: 9
Сразу скажу что мне это нужно для перевода текста из utf8 в utf16(так как думаю данных в 2 байта на 1 символ сейчас с головой).и в частности для программы печатания символов на канвасе в винде,где сейчас по умолчанию utf16.
Пока сделал на 3 байта и ещё есть некие то ли косяки то ли ненужности...
PS:Приоритет функции на 1-байтный латинский символ(английский),он в алгоритме самым первым участвует в обнаружении и конвертации(условно говоря если это язык программирования основанный на английских символах)то он первостепенный,а если к примеру в основновном будет символы кирилицы, то имеет смысл поставить эту группу символов (как единицу атомов) на первое место.:)
Код:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
 
;(©) Автор под псевдонимом Сергейчик.
Procedure.s UTF16_UTF8(stroka.s,a.a)
  ;\\\\\\\\\\\\\\\\\\\\\\\\\\\\
  ;создать буфер для приёма
  If a=3
    stroka=LSet(stroka,Len(stroka),"")
  ElseIf a=4
    stroka=LSet(stroka,Len(stroka),"")
  EndIf
  ;\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\
  !push eax
  !push ebx
  !push esi
  !push edi
  ;
  !mov dword esi,[p.v_stroka+16]
  !mov dword edi,[p.v_stroka+16]
  !rr:
 !CMP word[esi],0h
  !je ddd
  !cmp word[esi],127
  !Ja gyh
  !
  !mov byte al,[esi]
  !mov byte[edi],al
  !add esi,2
  !add edi,1
  !jmp rr
  !gyh:
 !cmp word[esi],2047;до 10000h 3-х байтный utf-8
  !Ja sdd
  !mov word ax,[esi]
  !mov word bx,ax
  !shr ax,6;cdvig na 6 v pravo
  !or byte al,192;C0h
  ;==========;типа обнулить 6-7 бит
  ;!shl bl,2
  ;!shr bl,2
  ;===========================
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !mov byte ah,bl
  !mov word[edi],ax
  !add esi,2
  !add edi,2
  !jmp rr
 
  !sdd:
 !cmp dword[esi],65535;10000h это уже 4-х байтный utf-8
  !Ja sddf
  !
  ;
  !;3-х байтный utf-8 символ с число юникода >2047
  !mov word ax,[esi]
  !mov word bx,ax
  !
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !mov word[edi+2],bx
  ;
  !mov word bx,ax
  !shr ax,12
  !or byte al,224
  ;
  !shr bx,6
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  !mov byte ah,bl
  ;
  !mov word[edi],ax
  !add esi,2
  !add edi,3
  !jmp rr
  ;
  !sddf:
 ;\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\
  ;4-х байтный utf-8 символ с числом юникода от 10000h до 200000h(2097152)
  !mov byte bl,[esi]
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !mov byte[edi+3],bl
  !mov word bx,[esi]
  !shr bx,6
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !mov byte[edi+2],bl
  ;
  !mov dword ebx,[esi]
  !shr ebx,12
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !mov dword eax,[esi]
  !shr eax,18
  !or byte al,240;f0h
  !mov byte ah,bl;2-й байт
  !mov word[edi],ax
  !add esi,2
  !add edi,4
  !jmp rr
  ;\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\
  !ddd:
 !mov byte[edi],0h
  ;
  !pop edi
  !pop esi
  !pop ebx
  !pop eax
  ;
  ProcedureReturn stroka
EndProcedure
Procedure.i UTF8_TO_UTF16(*stroca1,*stroca,len.i=0)
  !cmp dword [esp+12],0h;если нет ни одного символа len=0 то выходим и возвращаем 0
   !jnz perecodirovka
  !xor eax,eax
  !retn 8
  !perecodirovka:
 ;;============умножим len*2
  !mov dword eax,[esp+12]
  !IMUL dword eax,2
  !mov dword [esp+12],eax
  ;;=============
  !push esi
  !push edi
  !push ebx
  !push ecx
  !push edx
  !mov dword edi,[esp+24];пишим адрес буфера(*stroca1) для приёма перекодированной строки  на память в edi
  !mov dword esi,[esp+28]
  ;
  !mov dword ecx,-2;FFFFFFFE
!uu5:
 !add dword ecx,2
  !cmp dword[esp+32],ecx;
   !jz ecssit5;если конец строки выходим
  ;
  ;;=============проверка на 1 байт
  !cmp byte[esi],127
  !ja @f ;больше чем 1 байтный символ,переходим на проверку 2 байтного символа utf-8
  ;;====это 1 байтный символ
  ;1
  !movzx ebx,byte ptr esi;берём символ ascii(1 bait)из esi
  ;!xor bite bh,bh
  ;!mov word bx,[esi];берём символ из esi
  !mov word[edi+ecx],bx;пишим в edi
  !add esi,1
  !jmp uu5;смотрим следущий символ
  ;;===============проверка на 2 байта
  !@@:
  !cmp byte[esi],223
  !ja @f;больше чем 2 байтный символ
  ;2
  !mov word bx,[esi]
  !mov word dx,bx
  ;;=============
  !and word bx,63;6547;0ffC0h
  !shl bx,6;cdvig na 6 v levo
 
  !and byte dh,127;обнулить 7 бит
  !or byte dh,bl;
 
  !mov byte bl,dh
  ;
  !mov word[edi+ecx],bx;пишим в edi
  !add esi,2
  !jmp uu5
  ;
  ;;===============проверка на 3 байта
  !@@:;>3
  !cmp byte[esi],239
  !ja @f
  ;3
  !mov word bx,[esi]
  !mov word dx,bx
 
  !and word bx,31
  !shl bx,12;cdvig na 12 v levo
 
 
  !shr word dx,8
  !and byte dl,127;обнулить 7 бит
  !shl word dx,6
  !or word bx,dx;
  ;
  !mov word dx,[esi+2]
  !and byte dl,127;обнулить 7 бит
  !or byte bl,dl
  ;!or byte dl,bl;
  ;!mov byte bl,dl
 
  !mov word[edi+ecx],bx;пишим в edi
 
  !add esi,3
  ;Debug 3
  !jmp uu5
  ;;===============проверка на 4 байта
  !@@:
  !cmp byte[esi],247
  !ja @f
  ;4
  !add esi,4
  ;Debug 4
  !jmp uu5
  ;;;===============проверка на 5 байта
  !@@:
  !cmp byte[esi],251
  !ja @f
  ;5
  !add esi,5
  ;Debug 5
  !jmp uu5
  ;;;===============проверка на 6 байта
  !@@:
  !cmp byte[esi],253
  !ja @f
  ;6
  !add esi,6
  !jmp uu5
  ;;;===============проверка на 7 байта
  !@@:
  !cmp byte[esi],254
  !ja @f
  ;7
  !add esi,7
  !jmp uu5
  ;;;===============проверка на 8 байта
  !@@:
  ;8
  !add esi,8
  !jmp uu5
  ;
  !ecssit5:
 !mov word[edi+ecx],0h;ставим завершающий 0
  ;
  !pop edx
  !pop ecx
  !pop ebx
  !pop edi
  !pop esi
  ;
  !retn 8
EndProcedure
Procedure.s CHR_UTF8(Nomer.i);НОРМ
  Protected stroka.s=#NULL$
  stroka=LSet(stroka,2,"")
  ;
  !push eax
  !push ebx
  !push edi
  ;
  !mov dword eax,[p.v_Nomer+12]
  !mov dword edi,[p.v_stroka+12]
  ;
  !CMP dword eax,0h
  !je dddw
  !cmp dword eax,127
  !Ja gyhw
  !
  ;//////////////////////////
  ;до (127),1 байтный utf-8
  !mov byte[edi],al
  !jmp dddw
  ;/////////////////////////
  !gyhw:
 !cmp dword eax,2047;от 800h до 10000h 3-х байтный utf-8
  !Ja sddw
  ;
  ;//////////////////////////////////
  ;от 127 до 800h 2-х байтный utf-8
  !mov byte bl,al
  ;===типа обнулить 6-7 бит
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;===========================
  !shr ax,6
  !or byte al,192;C0h
  ;==========;
  !mov byte ah,bl
  !mov word[edi],ax
  !jmp dddw
  ;////////////////////////////////
  !sddw:
 !cmp dword eax,65535;>10000h это уже 4-х байтный utf-8
  !Ja sddfw
  !
  ;//////////////////////////////////////////////////////
  ;3-х байтный utf-8 символ с числом юникода от 800h до 10000h
  !mov byte bl,al
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !mov byte[edi+2],bl
  ;
  !mov word bx,ax
  !shr bx,6
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !shr ax,12
  !or byte al,224
  ;
  !mov byte ah,bl;2-й байт
  !mov word[edi],ax
  !jmp dddw
  ;
  !sddfw:
 ;//////////////////////////////////////////
  ;4-х байтный utf-8 символ с числом юникода от 10000h до 200000h(2097152)
  !mov byte bl,al
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !mov byte[edi+3],bl
  !mov word bx,ax
  !shr bx,6
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  !mov byte[edi+2],bl
  ;
  !mov dword ebx,eax
  !shr ebx,12
  ;!shl bl,2
  ;!shr bl,2
  ;!add byte bl,128;80h поставить 7 бит
  !And byte bl,63;обнулить 5 начальных битов
  !or byte bl,128;поставить 7 бит
  ;
  !shr eax,18
  !or byte al,240;f0h
  !mov byte ah,bl;2-й байт
  !mov word[edi],ax
  ;////////////////////////////////
  !dddw:
 !pop edi
  !pop ebx
  !pop eax
  ;
  ProcedureReturn stroka
EndProcedure
 
 
Global s.s="jfffyko9753efhnmmmhxfk e  egпатолпаа еуклленлпдзеупуапрашвуткетртыоотшшпркп3ешз0тгпптрьллшаооукоооfrgerj";строка в utf16
Global s1.s=UTF16_UTF8(s,4);перекодируем строку в utf8
Global lenutf8.l=Len_UTF8R(@s1);количество символов в строке utf8
 
Debug PeekS(@s1,lenutf8*2,#PB_UTF8);выведем в окно дебагера строку из представления в памяти как utf8(в частности реекs не понимает аргумент в количестве символов и и наверное нужно указать аргументу количество байт или  как вариант заместо ,lenutf8,перекодировку до конца строки -1)
 
Global *mem
 
*mem=AllocateMemory(lenutf8*2+2);выделим буфер в памяти под данные utf16(2 байта)+2 байта для #null(обозначение конца строки)
UTF8_TO_UTF16(*mem,@s1,lenutf8);процедура перевода из памяти изначальной строки в выделенный буфер памяти(данных) под строку utf 16
 
  Debug PeekS(*mem,lenutf8,#PB_UTF16):вывод в окно дебагера строки из памяти (с указанным  количеством символов ) которая в кодировки utf16
 
FreeMemory(*mem)
 



Вернуться наверх
 Профиль  
 
Показать сообщения за:  Сортировать по:  
Начать новую тему Ответить на тему  [ 1 сообщение ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на форуме

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 1


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
cron
Создано на основе phpBB® Forum Software © phpBB Group (блог о phpBB)
Сборка создана CMSart Studio
Русская поддержка phpBB