This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
regen/unicode_constants.pl: Convert '-' in names to '_'
[perl5.git] / regen / unicode_constants.pl
index 73ec4ae..6fb12e1 100644 (file)
@@ -29,21 +29,27 @@ END
 
 # The data are at the end of this file.  A blank line is output as-is.
 # Otherwise, each line represents one #define, and begins with either a
-# Unicode character name with the blanks in it squeezed out or replaced by
+# Unicode character name with the blanks and dashes in it squeezed out or replaced by
 # underscores; or it may be a hexadecimal Unicode code point.  In the latter
 # case, the name will be looked-up to use as the name of the macro.  In either
-# case, the macro name will have suffixes as listed above, and all blanks will
-# be replaced by underscores.
+# case, the macro name will have suffixes as listed above, and all blanks and
+# dashes will be replaced by underscores.
 #
 # Each line may optionally have one of the following flags on it, separated by
 # white space from the initial token.
 #   string  indicates that the output is to be of the string form
 #           described in the comments above that are placed in the file.
+#   string_skip_ifundef  is the same as 'string', but instead of dying if the
+#           code point doesn't exist, the line is just skipped: no output is
+#           generated for it
 #   first   indicates that the output is to be of the FIRST_BYTE form.
 #   tail    indicates that the output is of the _TAIL form.
 #   native  indicates that the output is the code point, converted to the
 #           platform's native character set if applicable
 #
+# If the code point has no official name, the desired name may be appended
+# after the flag, which will be ignored if there is an official name.
+#
 # This program is used to make it convenient to create compile time constants
 # of UTF-8, and to generate proper EBCDIC as well as ASCII without manually
 # having to figure things out.
@@ -56,7 +62,8 @@ while ( <DATA> ) {
 
     chomp;
     unless ($_ =~ m/ ^ ( [^\ ]* )           # Name or code point token
-                       (?: [\ ]+ ( .* ) )?  # optional flag
+                       (?: [\ ]+ ( [^ ]* ) )?  # optional flag
+                       (?: [\ ]+ ( .* ) )?  # name if unnamed; flag is required
                    /x)
     {
         die "Unexpected syntax at line $.: $_\n";
@@ -64,9 +71,11 @@ while ( <DATA> ) {
 
     my $name_or_cp = $1;
     my $flag = $2;
+    my $desired_name = $3;
 
     my $name;
     my $cp;
+    my $undef_ok = $desired_name || $flag =~ /skip_if_undef/;
 
     if ($name_or_cp =~ /[^[:xdigit:]]/) {
 
@@ -78,17 +87,22 @@ while ( <DATA> ) {
     else {
         $cp = $name_or_cp;
         $name = charnames::viacode("0$cp"); # viacode requires a leading zero
-                                            # to be sure that the argument is hex
-        die "Unknown code point '$cp' at line $.: $_\n" unless defined $cp;
+                                            # to be sure that the argument is
+                                            # hex
+        if (! defined $name) {
+            die "Unknown code point '$cp' at line $.: $_\n" unless $undef_ok;
+            $name = "";
+        }
     }
 
-    $name =~ s/ /_/g;   # The macro name can have no blanks in it
+    $name = $desired_name if $name eq "" && $desired_name;
+    $name =~ s/[- ]/_/g;   # The macro name can have no blanks nor dashes
 
     my $str = join "", map { sprintf "\\x%02X", $_ }
                        unpack("U0C*", pack("U", hex $cp));
 
     my $suffix = '_UTF8';
-    if (! defined $flag  || $flag eq 'string') {
+    if (! defined $flag  || $flag =~ /^ string (_skip_if_undef)? $/x) {
         $str = "\"$str\"";  # Will be a string constant
     } elsif ($flag eq 'tail') {
             $str =~ s/\\x..//;  # Remove the first byte
@@ -121,16 +135,12 @@ __DATA__
 0301 string
 0308 string
 
-03B9 first
-03B9 tail
+03B9 string
 
-03C5 first
-03C5 tail
+03C5 string
 
-1100
-1160
-11A8
 2010 string
+D800 first FIRST_SURROGATE
 
 007F native
 00DF native